[論文レビュー] Overcoming Anchoring Bias: The Potential of AI and XAI-based Decision Support

Felix Haag, Carlo Stingl+3 more|arXiv (Cornell University)|May 8, 2024

Big Data and Business Intelligence被引用数 4

ひとこと要約

本研究は、AIおよび説明可能なAI（XAI）に基づく意思決定支援が、購入意思決定におけるアンカーリングバイアスを軽減できるかどうかを調査する。390名の参加者を対象に実施された2つのオンライン実験を通じて、AI単体およびAIとXAIを組み合わせた場合の両方が、アンカーリングの影響を有意に低減することを示した。これにより、より倫理的で偏見のない情報システムの設計に向けた道筋が示された。

ABSTRACT

Information systems (IS) are frequently designed to leverage the negative effect of anchoring bias to influence individuals' decision-making (e.g., by manipulating purchase decisions). Recent advances in Artificial Intelligence (AI) and the explanations of its decisions through explainable AI (XAI) have opened new opportunities for mitigating biased decisions. So far, the potential of these technological advances to overcome anchoring bias remains widely unclear. To this end, we conducted two online experiments with a total of N=390 participants in the context of purchase decisions to examine the impact of AI and XAI-based decision support on anchoring bias. Our results show that AI alone and its combination with XAI help to mitigate the negative effect of anchoring bias. Ultimately, our findings have implications for the design of AI and XAI-based decision support and IS to overcome cognitive biases.

研究の動機と目的

• AIおよびXAIに基づく意思決定支援が、消費者意思決定におけるアンカーリングバイアスの影響を軽減できるかどうかを検討すること。
• AIおよびXAIの個別的および併用的効果が、購入意思決定における認知バイアスの軽減に与える影響を調査すること。
• 操作的バイアスの利用を防ぐ倫理的な情報システムの設計に向けた示唆を提供すること。

提案手法

• 実世界の購入意思決定状況を模擬するため、合計N=390名の参加者を対象に2つのオンライン実験を実施した。
• 参加者にアンカーリングの手がかり（例：高価または低価の初期価格）を提示することでバイアスを誘発する制御されたシナリオを用いた。
• 客観的なデータに基づいたレコメンデーションを提供するAIベースの意思決定支援を実装し、初期アンカーへの依存を軽減した。
• AIレコメンデーションを説明するXAIのコンponentsを統合し、透明性の向上とユーザーの信頼を高めた。
• 意思決定の結果とバイアスの度合いを、意思決定後のアンケートと行動指標によって測定した。
• 統計的分析を用いて、対照群、AI単体、AI＋XAIの各条件における意思決定の質とアンカーリング効果を比較した。

実験結果

リサーチクエスチョン

• RQ1 AIベースの意思決定支援は、支援なしの条件と比較して、購入意思決定におけるアンカーリングバイアスの影響を軽減するか？
• RQ2 XAIの説明を追加することで、AI単体よりもさらにアンカーリングバイアスが軽減されるか？
• RQ3 XAIによって透明に説明されたAIレコメンデーションに対して、ユーザーはどのように認識し、反応するか？

主な発見

• AIベースの意思決定支援は、支援なしの対照群と比較して、アンカーリングバイアスを有意に軽減した。
• AIとXAIの組み合わせは、AI単体よりもさらにアンカーリングバイアスを軽減し、優れた効果を示した。
• XAIの説明を受けた参加者ほど、意思決定の正確性が高く、初期アンカーへの感受性が低かった。
• 説明の存在により、ユーザーのAIレコメンデーションへの信頼が向上し、より合理的な意思決定が促進された。
• AIおよびXAIの両方が、強いアンカーリングの手がかりが存在しても、ヒューリスティックな手がかりへの依存を軽減するのに有効であった。
• 結果から、XAIはユーザーの理解を高め、初期情報への過剰な依存を減らすことで、AIの認知的バイアス除去効果を強化していることが示唆された。