[論文レビュー] Conceptualising Contestability: Perspectives on Contesting Algorithmic Decisions

Henrietta Lyons, Eduardo Velloso+1 more|arXiv (Cornell University)|Feb 23, 2021

Ethics and Social Impacts of AI参考文献 118被引用数 73

ひとこと要約

本論文は、オーストラリアのAI倫理フレームワーク（世界で最初の同種のフレームワーク）に伴い、多様なステークホルダーが「議論可能性（contestability）」——つまり、アルゴリズム意思決定に異議を唱える能力——をどのように概念化しているかを調査する。65件の提出物をテーマ分析した結果、議論可能性が個人を保護し、人間の意思決定の異議申し立てプロセスを模倣する必要があるという広範な合意が得られた一方で、AIシステムにおける公平でアクセス可能かつ説明可能な異議申し立てメカニズムを実装するうえでの主な設計および政策的課題が浮き彫りになった。

ABSTRACT

As the use of algorithmic systems in high-stakes decision-making increases, the ability to contest algorithmic decisions is being recognised as an important safeguard for individuals. Yet, there is little guidance on what `contestability'--the ability to contest decisions--in relation to algorithmic decision-making requires. Recent research presents different conceptualisations of contestability in algorithmic decision-making. We contribute to this growing body of work by describing and analysing the perspectives of people and organisations who made submissions in response to Australia's proposed `AI Ethics Framework', the first framework of its kind to include `contestability' as a core ethical principle. Our findings reveal that while the nature of contestability is disputed, it is seen as a way to protect individuals, and it resembles contestability in relation to human decision-making. We reflect on and discuss the implications of these findings.

研究の動機と目的

• アルゴリズム意思決定における「議論可能性」の意味について、明確な指針が欠如しているという問題に対処する。
• 政府、産業界、学術界、市民社会など多様なステークホルダーが、オーストラリアのAI倫理フレームワークに応じて議論可能性をどのように概念化しているかを調査する。
• AIシステムにおける異議申し立てに関する概念的論争と実務的課題をマップすることを目的とする。
• アルゴリズム意思決定における公平でアクセス可能かつ透明な異議申し立てプロセスの設計を支援することを目的とする。
• 議論可能性の根幹的な原則と設計上の配慮事項を特定することで、倫理的なAI開発に貢献することを目的とする。

提案手法

• 本研究は、オーストラリアのAI倫理フレームワークのコンサルテーションプロセスへの65件の提出物を分析した。
• テーマ分析を実施し、繰り返し現れる見解、概念的捉え方、設計要件を特定した。
• 分析は、回答者が議論可能性をどのようにフレームするか、公平性・透明性との関係、実装方法に焦点を当てた。
• 研究者たちは、説明可能性が異議申し立てを可能にする役割、特に人間中心の説明を通じての役割を検討した。
• HCIおよび政策設計の知見を活用して、アクセス可能で効果的な異議申し立てプロセスの設計方法を評価した。
• 得られた知見をもとに、AIシステムにおける議論可能性が保護手段として実現可能で意味のあるものであるかを検討した。

実験結果

リサーチクエスチョン

• RQ1 多様なステークホルダーは、アルゴリズム意思決定の文脈において議論可能性をどのように概念化しているか？
• RQ2 AIシステムにおける異議申し立てプロセスを実装するにあたり、主な設計的および政策的配慮事項は何か？
• RQ3 アルゴリズム意思決定における議論可能性は、人間の意思決定における議論可能性とどのように異なるか？
• RQ4 説明可能性は、異議申し立ての根拠を拡大するか、制限するか、どのような役割を果たすか？
• RQ5 個人がアルゴリズム意思決定に対して効果的に異議を唱えるのを妨げるシステム的課題は何か？

主な発見

• 議論可能性が、不公正または有害なアルゴリズム意思決定から個人を保護するために不可欠であるという広範な合意がある。
• 回答者たちは、アルゴリズム意思決定における議論可能性を、人間の意思決定における議論可能性と同等視しており、類似した手続き的公平性の重要性を強調した。
• 提出物は、異議申し立てプロセスがアクセス可能で透明性があり、影響を受ける個人の意見を反映して設計されなければならないと強調した。
• 主要な課題として、アルゴリズムシステムの不透明性が、ユーザーが意思決定を理解したり、異議を唱えたりする能力を損なうことが指摘された。
• 意味のある異議申し立てを支援するため、技術的または反事実的説明を超えた人間中心の説明の必要性が強く認識された。
• 本研究は、現在のXAI（説明可能なAI）の出力が、法的または公式な異議申し立てには不十分である可能性を示し、より強固で文脈に即した説明フレームワークの必要性を示唆した。