[論文レビュー] Deciding Fast and Slow: The Role of Cognitive Biases in AI-assisted Decision-making

Charvi Rastogi, Yunfeng Zhang+4 more|arXiv (Cornell University)|Oct 15, 2020

Human-Automation Interaction and Safety被引用数 9

ひとこと要約

本稿では、人間とAIの意思決定における認知バイアスに配慮したフレームワークを提案する。特に、人間がAIの予測に過度に依存する『アンカーリングバイアス』に焦点を当て、時間に基づくアンカーリング解除戦略と、信頼度に配慮した時間割り当てポリシーを導入している。2つのユーザー実験を通じて検証された結果、AIの予測が誤りまたは信頼度が低い場合に特に、人間とAIの協働性能が向上した。

ABSTRACT

Several strands of research have aimed to bridge the gap between artificial intelligence (AI) and human decision-makers in AI-assisted decision-making, where humans are the consumers of AI model predictions and the ultimate decision-makers in high-stakes applications. However, people's perception and understanding are often distorted by their cognitive biases, such as confirmation bias, anchoring bias, availability bias, to name a few. In this work, we use knowledge from the field of cognitive science to account for cognitive biases in the human-AI collaborative decision-making setting, and mitigate their negative effects on collaborative performance. To this end, we mathematically model cognitive biases and provide a general framework through which researchers and practitioners can understand the interplay between cognitive biases and human-AI accuracy. We then focus specifically on anchoring bias, a bias commonly encountered in human-AI collaboration. We implement a time-based de-anchoring strategy and conduct our first user experiment that validates its effectiveness in human-AI collaborative decision-making. With this result, we design a time allocation strategy for a resource-constrained setting that achieves optimal human-AI collaboration under some assumptions. We, then, conduct a second user experiment which shows that our time allocation strategy with explanation can effectively de-anchor the human and improve collaborative performance when the AI model has low confidence and is incorrect.

研究の動機と目的

• 高リスク意思決定における認知バイアス、特にアンカーリングバイアスが人間-AI協働をどのように歪めるかを理解すること。
• 人間の認知的歪みを捉えるために、バイアス付きベイジアンフレームワークを用いて認知バイアスの影響を数学的にモデル化すること。
• AI予測への過剰な依存を軽減する時間に基づくアンカーリング解除戦略を設計・検証すること。
• リソース制約下での最適な時間割り当てポリシーを設計し、人間-AIチームのパフォーマンスを向上させること。
• AIの予測が誤りまたは不確実な場合に、信頼度に基づく説明がバイアスを軽減する効果があるかを評価すること。

提案手法

• 人間-AI相互作用をモデル化し、認知バイアスを分類するために、観察空間、予測空間、認識空間の3つの概念的空間を定義する。
• 時間コストのトレードオフに起因するアンカーリングバイアスを、限界合理的なフレームワークを用いてモデル化する。
• AIのアンカーから離れやすくなるように、意思決定時間を延長することでアンカーリングを解除する時間ベースの戦略を提案する。
• AIモデルの信頼度が低い場合、特に予測が誤りである場合に、意思決定時間を延長するリソース割り当て戦略を設計する。
• 信頼度に基づく説明を時間割り当てポリシーに統合し、人間の理解を深め、バイアスを低減する。
• アマゾン・メカニカル・トルク上で2段階のユーザー実験を実施し、異なる時間長と説明条件の下で戦略を評価する。

実験結果

リサーチクエスチョン

• RQ1 意思決定時間の延長は、人間-AI協働意思決定におけるアンカーリングバイアスにどのように影響するか？
• RQ2 AIモデルが誤りまたは不確実な場合、時間ベースのリソース割り当て戦略は人間-AIチームのパフォーマンスを向上させ得るか？
• RQ3 信頼度に基づく説明は、人間がAI予測に過剰に依存するのを軽減する効果があるか？
• RQ4 アンカーリングバイアスや確認バイアスは、観察空間と予測空間の両方でどのように異なる形で現れるか？
• RQ5 動的で適応的な時間割り当てポリシーは、静的または信頼に基づくアプローチに比べ、協働設定で優れたパフォーマンスを示せるか？

主な発見

• 時間に基づくアンカーリング解除戦略は、アンカーリングバイアスを顕著に軽減し、意思決定時間が延びるにつれてAI予測との合意率が低下した。
• 時間延長と信頼度に基づく説明を組み合わせた最適な時間割り当てポリシーは、人間のみまたはAIのみのベースラインを上回る人間-AIチームのパフォーマンスを実現した。
• AIモデルが誤っていた場合、信頼度の説明を提供することで人間の誤りが減少し、特に長い意思決定時間の下で意思決定の正確性が向上した。
• ドメイン特化の訓練を経た後、人間のみの正確性はAIのみの正確性と同等であったため、一般参加者を専門家行動の代理として使用することが妥当であると検証された。
• AIの信頼度が低く、かつ誤りである場合に、この戦略は最も効果的であった。これは、説明と時間割り当てが高リスク状況でのバイアスを共同で軽減できることを示している。
• 動的で認知に配慮したポリシーは、静的または信頼に基づくアプローチに比べ、より優れた協働パフォーマンスを達成できることを示唆している。