[論文レビュー] Whose Side are Ethics Codes On? Power, Responsibility and the Social Good

Anne L. Washington, Rachel Kuo|arXiv (Cornell University)|Feb 4, 2020

Hate Speech and Cyberbullying Detection参考文献 41被引用数 7

ひとこと要約

本論文は、権力と社会的公平性の観点からデータ倫理コードを批判的に検討し、それらがしばしば弱い立場のコミュニティよりも消費者を優先する傾向にあると主張する。文化的ディスコース分析とコミュニティオーガナイザーのインタビューを用いて、倫理コードが消費者を社会そのものと混同し、構造的脆弱性を無視していることが明らかになった。本研究は、より公平な公共利益技術における倫理を導くためのフレームワークとして「デジタル差別の脆弱性」を提唱する。

ABSTRACT

The moral authority of ethics codes stems from an assumption that they serve a unified society, yet this ignores the political aspects of any shared resource. The sociologist Howard S. Becker challenged researchers to clarify their power and responsibility in the classic essay: Whose Side Are We On. Building on Becker's hierarchy of credibility, we report on a critical discourse analysis of data ethics codes and emerging conceptualizations of beneficence, or the "social good", of data technology. The analysis revealed that ethics codes from corporations and professional associations conflated consumers with society and were largely silent on agency. Interviews with community organizers about social change in the digital era supplement the analysis, surfacing the limits of technical solutions to concerns of marginalized communities. Given evidence that highlights the gulf between the documents and lived experiences, we argue that ethics codes that elevate consumers may simultaneously subordinate the needs of vulnerable populations. Understanding contested digital resources is central to the emerging field of public interest technology. We introduce the concept of digital differential vulnerability to explain disproportionate exposures to harm within data technology and suggest recommendations for future ethics codes.

研究の動機と目的

• データ技術分野における倫理コードが権力のダイナミクスと社会的階層をどのように反映しているかを調査すること。
• 倫理コードが一元的な社会的利益を実現すると仮定するのではなく、それが実際に誰の利益を代表しているかを検証すること。
• 弱い立場のコミュニティにおける自己決定権と構造的脆弱性について、倫理コードが黙秘している点を暴露すること。
• 公共利益技術におけるより公平な倫理を実現するためのフレームワーク「デジタル差別の脆弱性」を提唱すること。

提案手法

• 企業および専門団体のデータ倫理コードについて、文化的ディスコース分析を実施した。
• Howard S. Beckerの「我々はどちらの立場に立っているのか？」というフレームワークを応用し、倫理コード作成における信頼性と権力のダイナミクスを評価した。
• コミュニティオーガナイザーとの定性的インタビューを統合し、技術的倫理の物語とデジタル疎外の実態経験の対比を明らかにした。
• 倫理コードにおける「利益の最大化」と「社会的善」の概念的捉え方をマッピングし、代表性と責任の欠落を特定した。
• 弱い立場の集団がデータシステムにおいて不均等に被害を被ることを説明するため、「デジタル差別の脆弱性」という概念を提唱した。
• 研究結果を基に、公共利益技術におけるより包括的かつ説明責任のある倫理フレームワークの設計を提言した。

実験結果

リサーチクエスチョン

• RQ1 データ倫理コードは実際には誰の利益を代表しているのか。その言語的・構造的特徴にどのように表れているか。
• RQ2 倫理コードが消費者と社会をどのように混同しているのか。その結果、弱い立場のコミュニティにどのような影響が生じるか。
• RQ3 コミュニティオーガナイザーの実体験は、倫理コードに埋め込まれた技術的仮定をどのように挑戦するか。
• RQ4 現在の倫理コードフレームワークにおいて、自己決定権（agency）は果たしているのか、あるいは果たしていないのか。
• RQ5 「デジタル差別の脆弱性」という概念は、データ倫理コードの設計と説明責任をどのように改善できるか。

主な発見

• 企業および専門団体の倫理コードは、消費者を社会そのものと同一視しており、構造的不平等を隠蔽している。
• これらのコードは、歴史的に弱い立場に置かれてきた集団における自己決定権について沈黙しており、権力の不均衡を強化している。
• コミュニティオーガナイザーは、監視、データ搾取、デジタルレッドリンティングといった構造的問題を解決できない技術的解決策が倫理コードに組み込まれていると報告している。
• 倫理コードの公表された目的と、弱い立場のコミュニティに及ぼされる現実の影響との間に顕著なギャップが存在する。
• 「デジタル差別の脆弱性」という概念は、弱い立場の集団がデータシステムにおいて不均等に被害を被ることを的確に捉えている。
• 現在の倫理コードは、『社会的善』を提唱する一方で、脆弱な集団のニーズを抑圧するリスクを内在している。