[論文レビュー] On the Relationship Between Explanations, Fairness Perceptions, and Decisions

Jakob Schoeffer, Maria De‐Arteaga+1 more|arXiv (Cornell University)|Apr 27, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本稿は、説明、手続的公平性の認識、AIへの依存、人間-AI意思決定における分配的公平性を結びつける概念的枠組みを提案する。誤った説明が公平性の認識を歪め、不適切なAIへの依存を引き起こし、分配的公平性を損なう可能性があることが明らかになった—これは現在のXAI研究における重要な空白を示している。

ABSTRACT

It is known that recommendations of AI-based systems can be incorrect or unfair. Hence, it is often proposed that a human be the final decision-maker. Prior work has argued that explanations are an essential pathway to help human decision-makers enhance decision quality and mitigate bias, i.e., facilitate human-AI complementarity. For these benefits to materialize, explanations should enable humans to appropriately rely on AI recommendations and override the algorithmic recommendation when necessary to increase distributive fairness of decisions. The literature, however, does not provide conclusive empirical evidence as to whether explanations enable such complementarity in practice. In this work, we (a) provide a conceptual framework to articulate the relationships between explanations, fairness perceptions, reliance, and distributive fairness, (b) apply it to understand (seemingly) contradictory research findings at the intersection of explanations and fairness, and (c) derive cohesive implications for the formulation of research questions and the design of experiments.

研究の動機と目的

• 説明が公平な意思決定における人間-AIの補完的関係を可能にするかどうかに関する実証的証拠の欠如に取り組むこと。
• XAIと公平性研究における一見矛盾する結果を解消するために、手続的公平性の認識が中間的役割を果たすことを特定すること。
• 誤った説明が認識を歪め、不適切なAIへの依存を引き起こし、分配的公平性を損なう仕組みを調査すること。
• 公平性の認識を超えて、依存度や実際の意思決定結果への影響を含めた包括的な枠組みを提供すること。

提案手法

• 手続的公平性の認識とAIへの依存を経由して分配的公平性へ至る因果的経路を明確にする概念的枠組みを提唱する。
• 先行研究を3つのクラスタに分類する：(A) XAIと公平性の認識、(B) XAIと依存、(C) 依存と分配的公平性。
• この枠組みを用いて先行研究の不整合を分析し、研究が断片的または不完全な領域を特定する。
• 説明が意図的に操作するつもりがなくても、特徴量ベースのだまし（例：注目メカニズムの説明における偽装）によって認識が誤られる可能性があると指摘する。
• 誤った説明による認識の不整合が、不適切なAI採用や不適切な上書き操作を引き起こす可能性があると提唱する。
• 説明から分配的公平性に至る経路を、認識と依存を経由して実証的に検証するための将来の人間被験研究の計画を提示する。

実験結果

リサーチクエスチョン

• RQ1 説明が公平性の認識を誤らせることで、分配的公平性に悪影響を及ぼす形でAIの推薦に不適切な依存が生じるのか？
• RQ2 誤った説明は、推薦が不公正または誤りである場合でさえ、AIに対する不適切な信頼を引き起こす程度はどの程度か？
• RQ3 手続的公平性の認識は、説明と実際のAIアドバイスへの依存行動の関係をどのように中間的に媒介するか？
• RQ4 形式的には公平に見えるが内容が誤った説明は、どのようにして人種的・性別の属性に応じた不均等な意思決定結果を生じさせるのか？

主な発見

• 説明は、人種や性別といった感受性の高い属性に依存している場合でも、AIシステムが手続的に公平であると誤って認識させる可能性がある。
• 誤った説明が、正当な特徴量と感受性の高い特徴量の相関関係を利用して、ユーザーを公平でないモデルに信頼させることを実証的に示している。
• 先行研究では、説明が人間の意思決定を一貫して改善したりバイアスを減少させたりするとは限らず、一部のケースではAIへの過剰依存を引き起こすことが示されている。
• 実際のところ、説明が人間-AIの補完的関係を高めたり、分配的公平性を向上させたりするという明確な証拠はない。
• AIへの依存は公平性の認識に影響を受けるが、誤った説明によって認識が不整合になると、依存が不適切になる可能性がある。
• この枠組みは、重要な空白を明らかにしている：大多数のXAI研究は、公平性の認識やパフォーマンスといった孤立した要因に焦点を当てており、説明から公平性の結果に至る包括的経路を検討していない。