[論文レビュー] Perceptions of Fairness and Trustworthiness Based on Explanations in Human vs. Automated Decision-Making

Jakob Schoeffer, Yvette Machowski+1 more|arXiv (Cornell University)|Sep 13, 2021

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本研究では、同一の説明を用いて、高リスクの融資文脈における自動化された意思決定と人的意思決定の両者に対する人々の公平性および信頼性の認識を調査した。驚くべきことに、参加者は自動化システムを人よりも顕著に公平であると認識したが、特にAIリテラシーの高い参加者において顕著であった。一方、信頼性に関する認識には有意差は認められなかった。

ABSTRACT

Automated decision systems (ADS) have become ubiquitous in many high-stakes domains. Those systems typically involve sophisticated yet opaque artificial intelligence (AI) techniques that seldom allow for full comprehension of their inner workings, particularly for affected individuals. As a result, ADS are prone to deficient oversight and calibration, which can lead to undesirable (e.g., unfair) outcomes. In this work, we conduct an online study with 200 participants to examine people's perceptions of fairness and trustworthiness towards ADS in comparison to a scenario where a human instead of an ADS makes a high-stakes decision -- and we provide thorough identical explanations regarding decisions in both cases. Surprisingly, we find that people perceive ADS as fairer than human decision-makers. Our analyses also suggest that people's AI literacy affects their perceptions, indicating that people with higher AI literacy favor ADS more strongly over human decision-makers, whereas low-AI-literacy people exhibit no significant differences in their perceptions.

研究の動機と目的

• 高リスクの文脈における自動化意思決定システム（ADS）と人的意思決定者との間で、人々が公平性および信頼性をどのように認識するかを調査すること。
• ADSと人的意思決定者の両方の状況において、同一で包括的な説明が公平性および信頼性の認識に与える影響を評価すること。
• AIリテラシーの個人差が、ADSと人的意思決定者に対する公平性および信頼性の認識に与える調節効果を調査すること。
• 説明可能性が、融資のような感受性の高い分野における自動化システムの公的認識をどのように形成するかを探ること。
• 情報システム研究に貢献し、アルゴリズム意思決定におけるユーザーの公平性および信頼性の認識を理解する空白を埋めること。

提案手法

• 200名の参加者を対象に、融資文脈におけるADSと人的意思決定者を比較する被験者間設計のオンライン実験を実施した。
• 両条件において、同一で詳細な、モデルに依存しない説明（具体的には反事後説明）を提供した。
• 個人および財務データを含む標準化されたシナリオを用いて、条件間の一貫性を確保した。
• 妥当化されたアンケート尺度を用いて、情報の公平性および信頼性の認識を測定した。
• 公平性および信頼性の認識の背後にある理由づけを理解するために、オープンエンドの回答を収集・分析した。
• 階層的線形モデルを用いて、AIリテラシーが公平性および信頼性の認識に与える調節効果を検証した。

実験結果

リサーチクエスチョン

• RQ1 同一の説明が提供された場合、人々は自動化意思決定システムを人的意思決定者と比較して、情報の公平性をどのように認識するか？
• RQ2 同一の説明条件のもとで、人々は自動化意思決定システムを人的意思決定者と比較して、信頼性をどのように認識するか？
• RQ3 AIリテラシーは、自動化意思決定システムに対する公平性および信頼性の認識が人的意思決定者と比較してどのように変化するかを調節するか？
• RQ4 どのような定性的要因が、参加者が自動化された意思決定と人的意思決定の両者に対して公平性および信頼性をどのように認識するかに影響を与えるか？

主な発見

• 参加者は、自動化意思決定システムを人的意思決定者よりも顕著に公平であると認識した（情報の公平性における差のp値 = 0.001）。
• 自動化意思決定者と人的意思決定者の間で、信頼性の認識に有意差は認められなかった（p = 0.995）。
• AIリテラシーが高い人々は、自動化システムを人的意思決定者よりも公平かつ信頼できると認識した。これはAIリテラシーの調節効果を示している。
• AIリテラシーが低い人々は、両条件間で公平性または信頼性の認識に有意差を示さなかった。
• 定性的分析から、参加者は自動化システムを、主観性がなく客観的であると感じることで公平であると認識していることが明らかになった。多くの参加者が「基準に従う」「データを客観的に扱う」と述べた。
• 一部の参加者は、責任の所在について懸念を示し、「システムは自動化されているが、『誰かがそれをそうプログラムすることを決めた』ので、責任の所在が不明確だ」と述べ、ADS導入における重要な倫理的ジレンマを浮き彫りにした。