[论文解读] Sociotechnical Harms of Algorithmic Systems: Scoping a Taxonomy for Harm Reduction
本文提出了一个基于计算文献范围综述构建的算法系统社会技术伤害的应用型分类法，旨在帮助提升对伤害的预判与降低。
Understanding the landscape of potential harms from algorithmic systems enables practitioners to better anticipate consequences of the systems they build. It also supports the prospect of incorporating controls to help minimize harms that emerge from the interplay of technologies and social and cultural dynamics. A growing body of scholarship has identified a wide range of harms across different algorithmic technologies. However, computing research and practitioners lack a high level and synthesized overview of harms from algorithmic systems. Based on a scoping review of computing research $(n=172)$, we present an applied taxonomy of sociotechnical harms to support a more systematic surfacing of potential harms in algorithmic systems. The final taxonomy builds on and refers to existing taxonomies, classifications, and terminologies. Five major themes related to sociotechnical harms - representational, allocative, quality-of-service, interpersonal harms, and social system/societal harms - and sub-themes are presented along with a description of these categories. We conclude with a discussion of challenges and opportunities for future research.
研究动机与目标
- 在微观、介观和宏观层面上绘制算法系统潜在伤害的全景图。
- 综合现有分类法和术语，为从业者和研究人员创造一个统一的伤害框架。
- 识别在伤害预警与减缓方面未来研究的空白与机会。
提出的方法
- 按照 PRISMA-ScR 指南对 172 个来源的计算研究进行范围综述。
- 应用反思性主题分析将伤害识别并分类到一个连贯的分类法中。
- 将伤害聚类为主要主题及子主题，并以负责任的机器学习文献中的规范概念为锚点。
实验结果
研究问题
- RQ1以往关于算法系统的研究描述了哪些伤害，以及它们在社会层面上的框架是如何构建的？
- RQ2在算法系统造成的伤害类型上有哪些概念上的一致性，以及它们所隐含的组织结构？
- RQ3关于社会技术伤害研究存在哪些空白或缺失，提示未来研究的机会？
主要发现
- 该分类法识别出五种主要伤害类型：表述性伤害、配置性伤害、服务质量伤害、人际关系伤害以及社会系统伤害。
- 表述性伤害描述输入和输出中反映的不公正层级，包括刻板印象、贬损、消除以及疏离社会群体。
- 配置性伤害关乎表征如何影响模型决策与资源分配。
- 服务质量伤害来自于在优化选择上导致不同用户群体之间的性能差异。
- 人际关系伤害涉及由于技术可用性对人们与社区之间关系的负面影响。
- 社会系统伤害描述在更广泛的社会层面上对不平等和不稳定的涌现效应。
- 该研究综合了现有分类法中的术语和示例，以支持更系统的伤害预警和跨学科沟通。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。