[논문 리뷰] Whose Side are Ethics Codes On? Power, Responsibility and the Social Good

Anne L. Washington, Rachel Kuo|arXiv (Cornell University)|2020. 02. 04.

Hate Speech and Cyberbullying Detection참고 문헌 41인용 수 7

한 줄 요약

이 논문은 권력과 사회적 형평성을 관점으로 데이터 윤리 코드를 비판적으로 분석하며, 일반적으로 소비자보다는 소외된 공동체를 우선시하지 않는다고 주장한다. 비판적 담론 분석과 지역 사회 운동가 인터뷰를 통해 윤리 코드가 소비자를 사회와 동일시하고 구조적 취약성을 간과함을 드러내며, 공공선 기술에서 더 공정한 윤리를 이끌어내기 위한 프레임워크로 '디지털 차등적 취약성'을 제안한다.

ABSTRACT

The moral authority of ethics codes stems from an assumption that they serve a unified society, yet this ignores the political aspects of any shared resource. The sociologist Howard S. Becker challenged researchers to clarify their power and responsibility in the classic essay: Whose Side Are We On. Building on Becker's hierarchy of credibility, we report on a critical discourse analysis of data ethics codes and emerging conceptualizations of beneficence, or the "social good", of data technology. The analysis revealed that ethics codes from corporations and professional associations conflated consumers with society and were largely silent on agency. Interviews with community organizers about social change in the digital era supplement the analysis, surfacing the limits of technical solutions to concerns of marginalized communities. Given evidence that highlights the gulf between the documents and lived experiences, we argue that ethics codes that elevate consumers may simultaneously subordinate the needs of vulnerable populations. Understanding contested digital resources is central to the emerging field of public interest technology. We introduce the concept of digital differential vulnerability to explain disproportionate exposures to harm within data technology and suggest recommendations for future ethics codes.

연구 동기 및 목표

• 데이터 기술 윤리 코드가 권력 다이내믹스와 사회적 계급 구조를 어떻게 反영하는지 조사하기.
• 윤리 코드가 통합된 사회적 복지를 위한 것으로 간주되는 가정을 도전하기 — 진정으로 어떤 이권을 대변하는지 분석하지 않고서는.
• 소외된 공동체의 주체성과 구조적 취약성에 관해 윤리 코드의 침묵을 폭 드러내기.
• 불평등한 해를 방지하기 위한 프레임워크로 '디지털 차등적 취약성'을 제안하기.

제안 방법

• 기업 및 전문 협회에서 제작한 데이터 윤리 코드에 대한 비판적 담론 분석을 수행하였다.
• Howard S. Becker의 '우리의 편은 누구 편인가?' 프레임워크를 적용하여 윤리 코드 작성자의 신뢰성과 권력 다이내믹스를 평가하였다.
• 기술 윤리 서사와 디지털 소외의 실제 경험을 대비하기 위해 지역 사회 운동가들과의 정성적 인터뷰를 통합하였다.
• 윤리 코드 내 '선의'와 '사회적 복지'의 개념적 해석을 맵핑하여 표현 및 책임의 격차를 식별하였다.
• 소외된 집단이 데이터 시스템에서 비례적으로 더 큰 피해를 입는 방식을 설명하기 위해 '디지털 차등적 취약성' 개념을 제안하였다.
• 유지된 발견을 바탕으로 공공선 기술에서 더 포용적이고 책임감 있는 윤리 프레임워크를 위한 권고안을 도출하였다.

실험 결과

연구 질문

• RQ1 데이터 윤리 코드는 실제로 누구의 이해관계를 대변하는가? 그리고 이는 언어와 구조에 어떻게 반영되는가?
• RQ2 윤리 코드는 소비자를 사회와 어떻게 혼동하는가? 그로 인해 소외된 공동체에 어떤 결과가 초래되는가?
• RQ3 지역 사회 운동가들의 실제 경험은 윤리 코드에 내재된 기술적 가정을 어떻게 도전하는가?
• RQ4 기존 윤리 코드 프레임워크에서 주체성은 어떤 역할을 하는가? 또는 실패하는가?
• RQ5 '디지털 차등적 취약성' 개념은 데이터 윤리 코드의 설계와 책임성 향상에 어떻게 기여할 수 있는가?

주요 결과

• 기업 및 전문 협회에서 제작한 윤리 코드는 소비자를 사회와 거의 동일시하여 구조적 불평등을 가리킨다.
• 이러한 코드들은 특히 역사를 거쳐 소외된 인구 집단의 주체성에 관해 침묵을 유지하며, 권력 불균형을 강화한다.
• 지역 사회 운동가들은 윤리 코드의 기술적 해법이 감시, 데이터 착취, 디지털 레드라인 등 체계적 문제를 해결하지 못한다고 보고한다.
• 윤리 코드의 공식 목표와 취약한 공동체에 대한 실제 영향 사이에 상당한 격차가 존재한다.
• '디지털 차등적 취약성' 개념은 소외된 집단이 데이터 시스템에서 비례적으로 더 큰 피해를 입는 방식을 효과적으로 묘사한다.
• 현재 윤리 코드는 '사회적 복지'를 추구한다고 주장하지만, 실제로는 취약한 인구 집단의 필요를 지배하려는 위험을 내포하고 있다.