[論文レビュー] A Study on Fairness and Trust Perceptions in Automated Decision Making

Jakob Schoeffer, Yvette Machowski+1 more|arXiv (Cornell University)|Mar 8, 2021

Ethics and Social Impacts of AI参考文献 18被引用数 15

ひとこと要約

本研究は、特定の説明タイプ—特に特徴量の重要度と対向的説明—が、自動化された融資意思決定におけるユーザーの公平性および信頼性に関する認識にどのように影響するかを調査する。パイロットスタディの結果、より包括的な説明は、特にAIリテラシーの高いユーザーにおいて、認識される公平性および信頼性を顕著に向上させることを示しており、アルゴリズム意思決定における透明性が、ユーザー受容性および倫理的認識を高めうることを示唆している。

ABSTRACT

Automated decision systems are increasingly used for consequential decision making -- for a variety of reasons. These systems often rely on sophisticated yet opaque models, which do not (or hardly) allow for understanding how or why a given decision was arrived at. This is not only problematic from a legal perspective, but non-transparent systems are also prone to yield undesirable (e.g., unfair) outcomes because their sanity is difficult to assess and calibrate in the first place. In this work, we conduct a study to evaluate different attempts of explaining such systems with respect to their effect on people's perceptions of fairness and trustworthiness towards the underlying mechanisms. A pilot study revealed surprising qualitative insights as well as preliminary significant effects, which will have to be verified, extended and thoroughly discussed in the larger main study.

研究の動機と目的

• 自動意思決定システムにおける説明のレベルの違いが、ユーザーの公平性および信頼性に関する認識に与える影響を理解すること。
• 個人の背景、特にAIリテラシーおよび経験が、自動システムに対する認識をどのように形作るかを検討すること。
• 説明が提供された場合に、人間の意思決定者と自動化された意思決定者との間で、公平性および信頼性に関する認識にどのような差が生じるかを比較すること。
• 特徴量の重要度や対向的説明といった、異なる説明スタイルの有効性が、ユーザーの理解および信頼性の向上にどのように寄与するかを評価すること。
• 融資などの高リスク分野における、より透明性があり、倫理的に受け入れやすい自動意思決定システムの設計を支援すること。

提案手法

• 特徴量の重要度のみ、対向的説明のみ、および統合された説明形式の条件にさらされた参加者を対象としたオンラインパイロットスタディを実施した。
• 参加者が異なる透明性レベルの自動融資意思決定を評価する制御された実験デザインを採用した。
• 理解可能性、手続的公平性、情報的公平性、信頼性といった妥当な複数項目構成を用いて、認識を測定した。
• AIリテラシーおよび経験を含む人種的・背景的データを収集し、認識に与える調節効果を分析した。
• ユーザーが自動意思決定および特定の特徴（例：性別、教育、不動産地域）に対して抱く態度に関する定性的な洞察を収集するために、開放型質問を用いた。
• 各構成要因について、説明タイプごとに5段階スケールで得られた定量的スコアを分析し、説明タイプの影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 特徴量の重要度、対向的説明、または統合された形式といった、異なる説明フォーマットは、自動融資意思決定におけるユーザーの認識される公平性および信頼性にどのように影響するか？
• RQ2 ユーザーのAIリテラシーおよび過去の経験は、自動意思決定システムにおける公平性および信頼性の認識にどの程度調節的効果を示すか？
• RQ3 ユーザーは、自動融資意思決定における特定の意思決定要因（例：性別、教育、不動産地域）の公平性をどのように認識するか？
• RQ4 対向的説明の有無が、特徴量の重要度のみに比べて、ユーザーの理解および信頼性を向上させるか？
• RQ5 説明が提供された場合、自動意思決定者に対する認識と人間の意思決定者に対する認識には、どのような差が生じるか？

主な発見

• 統合説明条件（特徴量の重要度＋対向的説明）は、すべての構成要因で最高の平均スコアを記録した：理解可能性が4.12、手続的公平性が3.91、情報的公平性が3.92、信頼性が3.83であった。
• AIリテラシーがより高い参加者は、複雑な説明フォーマットに対して顕著に肯定的な公平性および信頼性の認識を示した。
• 大多数の参加者が、人間の意思決定者よりも自動システムを偏見が少ないものと認識しており、客観性とルールベースの一貫性を主な利点として挙げた。
• 多くの参加者が、性別を意思決定要因として使用することは倫理的に誤り、あるいは境界ぎりぎりの違法行為であると拒否したが、教育および不動産地域についても同様に不適切であると頻繁に認識された。
• 対向的説明は、信用履歴の改善や融資条件の調整といった現実的かつ実行可能な変更を反映している場合、より現実的で役立つと認識された。
• 一部の懐疑的見解は、自動システムに共感が欠けることにあるが、多くの参加者が、個人のバイアスを排除することでより公平な結果が得られると認めている。