[论文解读] Whose Side are Ethics Codes On? Power, Responsibility and the Social Good

Anne L. Washington, Rachel Kuo|arXiv (Cornell University)|Feb 4, 2020

Hate Speech and Cyberbullying Detection参考文献 41被引用 7

一句话总结

本文從權力與社會公平的視角批判性地檢視數據倫理準則，主張這些準則往往優先考慮消費者而非少數群體。透過批判性话语分析與社區組織者訪談，研究揭示倫理準則將消費者與社會混為一談，忽視結構性脆弱性，並提出「數位差異脆弱性」作為引導更公平公共利益科技倫理的框架。

ABSTRACT

The moral authority of ethics codes stems from an assumption that they serve a unified society, yet this ignores the political aspects of any shared resource. The sociologist Howard S. Becker challenged researchers to clarify their power and responsibility in the classic essay: Whose Side Are We On. Building on Becker's hierarchy of credibility, we report on a critical discourse analysis of data ethics codes and emerging conceptualizations of beneficence, or the "social good", of data technology. The analysis revealed that ethics codes from corporations and professional associations conflated consumers with society and were largely silent on agency. Interviews with community organizers about social change in the digital era supplement the analysis, surfacing the limits of technical solutions to concerns of marginalized communities. Given evidence that highlights the gulf between the documents and lived experiences, we argue that ethics codes that elevate consumers may simultaneously subordinate the needs of vulnerable populations. Understanding contested digital resources is central to the emerging field of public interest technology. We introduce the concept of digital differential vulnerability to explain disproportionate exposures to harm within data technology and suggest recommendations for future ethics codes.

研究动机与目标

• 探討數據科技倫理準則如何反映權力動態與社會階級結構。
• 挑戰倫理準則代表整體社會福祉的假設，而不檢視其真正代表何種利益。
• 揭露倫理準則在少數群體自主權與結構性脆弱性方面的沉默。
• 提出「數位差異脆弱性」框架，以應對數據系統中的不平等傷害。

提出的方法

• 對企業與專業協會的數據倫理準則進行批判性话语分析。
• 應用霍華德·S·貝克的「我們站在哪一邊？」框架，評估倫理準則撰寫過程中的可信度與權力動態。
• 整合社區組織者訪談，對比技術倫理敘事與數位邊緣化生活的實際經驗。
• 繪製倫理準則中「利他主義」與「社會福祉」的構念，以識別代表性與責任感的缺口。
• 提出「數位差異脆弱性」概念，以解釋少數群體在數據系統中遭受不成比例傷害的原因。
• 運用研究發現，提出更包容且具问责性的公共利益科技倫理框架建議。

实验结果

研究问题

• RQ1 數據倫理準則實際上服務於誰的利益？這在其語言與結構中如何體現？
• RQ2 倫理準則在何種程度上將消費者與社會混為一談？對少數群體造成何種後果？
• RQ3 社區組織者的實際經驗如何挑戰倫理準則中嵌入的技術假設？
• RQ4 自主權在當前倫理準則框架中發揮了什麼作用——或未能發揮何種作用？
• RQ5 「數位差異脆弱性」概念如何改善數據倫理準則的設計與問責機制？

主要发现

• 企業與專業協會的倫理準則普遍將消費者等同於社會，掩蓋了結構性不公。
• 這些準則對自主權保持沉默，特別是對歷史上被邊緣化的群體而言，強化了權力失衡。
• 社區組織者指出，倫理準則中的技術解決方案未能應對監控、數據剝削與數位紅線等系統性問題。
• 倫理準則的宣稱目標與對脆弱群體的現實影響之間存在顯著落差。
• 「數位差異脆弱性」概念有效捕捉了少數群體在數據系統中面臨不成比例傷害暴露的現象。
• 當前的倫理準則即使聲稱促進「社會福祉」，仍可能使脆弱群體的需求處於從屬地位。