[論文レビュー] Algorithmic Injustices: Towards a Relational Ethics

Abeba Birhane, Fred Cummins|arXiv (Cornell University)|Dec 16, 2019

Ethics and Social Impacts of AI参考文献 19被引用数 41

ひとこと要約

本論文は、アルゴリズム的不正を是正する際に脆弱な集団を中心に据える関係倫理を提唱し、純粋な技術的解決だけを超える視点を示す。

ABSTRACT

It has become trivial to point out how decision-making processes in various social, political and economical sphere are assisted by automated systems. Improved efficiency, the hallmark of these systems, drives the mass scale integration of automated systems into daily life. However, as a robust body of research in the area of algorithmic injustice shows, algorithmic tools embed and perpetuate societal and historical biases and injustice. In particular, a persistent recurring trend within the literature indicates that society's most vulnerable are disproportionally impacted. When algorithmic injustice and bias is brought to the fore, most of the solutions on offer 1) revolve around technical solutions and 2) do not focus centre disproportionally impacted groups. This paper zooms out and draws the bigger picture. It 1) argues that concerns surrounding algorithmic decision making and algorithmic injustice require fundamental rethinking above and beyond technical solutions, and 2) outlines a way forward in a manner that centres vulnerable groups through the lens of relational ethics.

研究の動機と目的

• データ駆動ツールは人間の文化、価値観、道徳を内包していることを認識し、したがって技術的解決だけでは足りないことを認識する。
• アルゴリズムを設計・評価する際には、影響を最も受けやすい個人やグループを中心に据える。
• 偏り、正義、倫理に関する根底となる前提を、動的で文脈依存的なものとして批判的に検討する。
• アルゴリズム系統における予測だけでなく、理解と文脈分析を促進する。

提案手法

• 倫理を純粋な技術的解決から哲学的・社会的探求へ再配置することを提唱する。
• データを文化、意味、社会的権力と結びつけて考える関係的視点を強調する。
• 偏りと公正を、継続的な見直しを要する動的・条件的概念として扱うことを提案する。
• アルゴリズムは単に分類を行うだけでなく、社会的規範や秩序を形成するものであると主張する。
• 社会の進展に合わせて公正と倫理が何を意味するかを継続的に再定義することを勧める。

実験結果

リサーチクエスチョン

• RQ1 技術的解決を超えて、最も影響を受ける人々を中心に据えるには、アルゴリズム的不正をどのように対処すべきか。
• RQ2 社会的に対立する領域でアルゴリズム系を評価・導入する際、関係倫理は何を要求するか。
• RQ3 偏り、公正、正義といった概念は、時間と文脈が変わるにつれてどのように変化するか。
• RQ4 アルゴリズムの分類は社会秩序にどのように寄与するか、そしてこれをどのように対処できるか。

主な発見

• 関係倫理は、最も大きな影響を受けるグループをあらゆる解決策の出発点として据える。
• 理解と文脈的接地は、敏感な領域（例：刑務所）における予測モデリングに先行すべきだ。
• アルゴリズムは単なる道具ではなく、社会的規範や秩序を創出・強化する参与者である。
• 公正と倫理は移動標的であり、文脈と時間を超えて開かれた反復的再評価を必要とする。
• 技術的修正だけでは、社会に深く根ざす偏見と不正を解決できない。