[論文レビュー] This Thing Called Fairness: Disciplinary Confusion Realizing a Value in Technology

Deirdre K. Mulligan, Joshua A. Kroll+2 more|arXiv (Cornell University)|Sep 26, 2019

Ethics and Social Impacts of AI参考文献 116被引用数 13

ひとこと要約

この論文は、技術分野における公平性に関する議論における学術的混乱を解消するために、理論、不平等、保護、供与の次元を有する構造的公平性分析フレームワークを提唱する。このフレームワークは、異なる分野における公平性の定義の違いを明確にすることで、学際的協働を可能にし、犯罪司法のリスク評価に関する事例研究を通じてその有効性を示している。理論的・政治的・実務的合意がなくても、議論の不一致を解消するためのツールを提供する。

ABSTRACT

The explosion in the use of software in important sociotechnical systems has renewed focus on the study of the way technical constructs reflect policies, norms, and human values. This effort requires the engagement of scholars and practitioners from many disciplines. And yet, these disciplines often conceptualize the operative values very differently while referring to them using the same vocabulary. The resulting conflation of ideas confuses discussions about values in technology at disciplinary boundaries. In the service of improving this situation, this paper examines the value of shared vocabularies, analytics, and other tools that facilitate conversations about values in light of these disciplinary specific conceptualizations, the role such tools play in furthering research and practice, outlines different conceptions of "fairness" deployed in discussions about computer systems, and provides an analytic tool for interdisciplinary discussions and collaborations around the concept of fairness. We use a case study of risk assessments in criminal justice applications to both motivate our effort--describing how conflation of different concepts under the banner of "fairness" led to unproductive confusion--and illustrate the value of the fairness analytic by demonstrating how the rigorous analysis it enables can assist in identifying key areas of theoretical, political, and practical misunderstanding or disagreement, and where desired support alignment or collaboration in the absence of consensus.

研究の動機と目的

• 技術分野における公平性に関する重複するが異なる学術的定義がもたらす混乱を解消すること。
• 異なる学問分野における公平性の概念的捉え方を明確にする共通の分析フレームワークを開発すること。
• 技術分野における価値に関する生産的な対話を支援するためのツールを提供することで、学際的研究および実践を支援すること。
• 犯罪司法制度におけるリスク評価の事例研究を通じて、フレームワークの実用性を提示すること。
• 公平性に関する議論における理論的・政治的・実務的誤解を特定し、合意がなくても解消すること。

提案手法

• 公平性理論、不平等、保護、供与の4つの主要次元を有する公平性分析フレームワークを構築する。
• 各次元に、ステークホルダーの視点、システムの境界、標的、提供者などの具体的な下位次元を含め、概念的違いを明確にする。
• 意味・範囲・文脈を検証するための質問を用いて、公平性を操作可能にする。
• 研究者たちは、犯罪司法分野におけるリスク評価ツールの事例研究にこのフレームワークを適用し、公平性の概念の不一致を特定する有効性を示した。
• 価値の統合を支援するための学際的インフラとして、共通の語彙と分析的ツールの役割を強調する。
• 概念的分析と事例に基づく説明を用いて、法、コンピュータサイエンス、哲学、社会科学の分野における公平性の異なる理解をマッピングする。

実験結果

リサーチクエスチョン

• RQ1 異なる学術分野が、学際的議論における混乱を引き起こすような形で、公平性をどのように概念化しているか。
• RQ2 異なる分野間での公平性の概念的違いを明確にし、一致を図るための分析的ツールは何か。
• RQ3 構造的公平性分析フレームワークは、公平性議論における理論的・実務的合意不成立の問題をどのように解決できるか。
• RQ4 犯罪司法におけるリスク評価の事例は、公平性概念の混同がもたらす結果をどのように示しているか。
• RQ5 共通の語彙と分析的インfraストラクチャは、技術分野における価値に関する生産的な学際的協働をどのように可能にするか。

主な発見

• 論文は、手続き的公平性と分配的公平性といった、分野ごとの公平性の定義の違いが、学際的議論において生産的でない混乱を引き起こしていると特定した。
• 公平性分析フレームワークは、競合する公平性の定義を明確にし、異なる分野間でのより明確な対話を可能にした。
• 犯罪司法のリスク評価に関する事例研究において、公平性の主張が、しばしば正義、ステークホルダー、システム境界に関する根本的な意見の相違を隠していることが明らかになった。
• フレームワークは、合意が得られない分野と、定義の合意がなくても一致が可能な分野を特定する有効性を示した。
• 本研究は、技術設計における価値統合を支援する研究・実践インフラを構築する上で、共通の分析的ツールが不可欠であることを示している。
• 研究者たちは、こうしたツールは単なる支援ではなく、社会技術的システムにおける公平性に関する建設的作業を進めるために不可欠であると結論づけた。