[論文レビュー] Sociotechnical Harms of Algorithmic Systems: Scoping a Taxonomy for Harm Reduction

Renee Shelby, Shalaleh Rismani+9 more|arXiv (Cornell University)|Oct 11, 2022

Ethics and Social Impacts of AI被引用数 22

ひとこと要約

本論文は、計算機分野の文献の範囲スコープを用いた散発的レビューに基づき、アルゴリズムシステムから生じる社会技術的害の応用的分類学を提示し、害の予測と低減を支援します。

ABSTRACT

Understanding the landscape of potential harms from algorithmic systems enables practitioners to better anticipate consequences of the systems they build. It also supports the prospect of incorporating controls to help minimize harms that emerge from the interplay of technologies and social and cultural dynamics. A growing body of scholarship has identified a wide range of harms across different algorithmic technologies. However, computing research and practitioners lack a high level and synthesized overview of harms from algorithmic systems. Based on a scoping review of computing research $(n=172)$, we present an applied taxonomy of sociotechnical harms to support a more systematic surfacing of potential harms in algorithmic systems. The final taxonomy builds on and refers to existing taxonomies, classifications, and terminologies. Five major themes related to sociotechnical harms - representational, allocative, quality-of-service, interpersonal harms, and social system/societal harms - and sub-themes are presented along with a description of these categories. We conclude with a discussion of challenges and opportunities for future research.

研究の動機と目的

• マイクロ、メソ、マクロレベルの文脈にわたるアルゴリズムシステムから生じる潜在的害の全体像を把握する。
• 既存の分類法と用語を統合し、実務者と研究者のための統一的な害のフレームワークを作成する。
• 害の予測と緩和に関する将来の研究のギャップと機会を特定する。

提案手法

• PRISMA-ScR ガイドラインに従って、172件のソースを対象に計算機研究の範囲スコープレビューを実施する。
• 反省的主題分析を適用して、害を同一の分類学に統合する。
• 害を主要テーマとサブテーマにクラスタリングし、責任あるML文献の標準概念に固定づける。

実験結果

リサーチクエスチョン

• RQ1 過去のアルゴリズムシステムに関する研究でどのような害が記述されており、それらは社会的階層レベル全体でどのように位置づけられているか。
• RQ2 アルゴリズムシステムの害のタイプに関する概念的な整合性はどこにあり、それはどんな組織構造を示唆しているか。
• RQ3 社会技術的害に関する研究のギャップや欠如は、将来の研究機会をどこに示唆しているか。

主な発見

• この分類学は、表現的害、割り当て的害、サービス品質害、対人関係害、社会システム害の五つの主要な害タイプを特定します。
• 表現的害は、入力と出力に反映される不公正な階層を説明し、ステレオタイプ化、軽蔑、抹消、社会集団の疎外を含みます。
• 割り当て的害は、表現がモデルの意思決定と資源の分配をどのように形作るかに関係します。
• サービス品質害は、最適化の選択によりユーザーグループ間のパフォーマンス格差を引き起こすことから生じます。
• 対人関係害は、技術的アフォーダンスによって個人とコミュニティの関係に及ぶ否定的影響を含みます。
• 社会システム害は、より広い社会レベルでの不平等と不安定化への新たな影響を説明します。
• 本研究は、既存の分類における用語と事例を統合し、より体系的な害の予測と学際的なコミュニケーションを支援します。