[論文レビュー] BIASeD: Bringing Irrationality into Automated System Design

Aditya Gulati, Miguel Ángel Lozano+2 more|arXiv (Cornell University)|Oct 1, 2022

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

この理論的論文は、人間の認知バイアスをAIシステム設計に統合することで、人間とAIの協働を強化することを提案し、知覚、解釈、意思決定の段階にわたるバイアスの五段階分類法を提示する。人間の非合理的な行動をモデル化し、理解し、それに適応するAIシステムの構築を提唱することで、バイアス低減にとどまらず、建設的でパーソナライズされた協働へと進化させる。

ABSTRACT

Human perception, memory and decision-making are impacted by tens of cognitive biases and heuristics that influence our actions and decisions. Despite the pervasiveness of such biases, they are generally not leveraged by today's Artificial Intelligence (AI) systems that model human behavior and interact with humans. In this theoretical paper, we claim that the future of human-machine collaboration will entail the development of AI systems that model, understand and possibly replicate human cognitive biases. We propose the need for a research agenda on the interplay between human cognitive biases and Artificial Intelligence. We categorize existing cognitive biases from the perspective of AI systems, identify three broad areas of interest and outline research directions for the design of AI systems that have a better understanding of our own biases.

研究の動機と目的

• 現在のAIシステムにおいて、人間の意思決定に広く影響を与える認知バイアスが統合されていないという問題に対処すること。
• 人間の意思決定サイクルの段階に応じて分類された認知バイアスの新しい分類法を提唱すること：提示、解釈、価値付与、想起、意思決定。
• AIシステム設計に適した20の主要な認知バイアスを特定し、バイアスに配慮したAIのための3つの研究方向を提示すること。
• 商業的利益のためにバイアスを操作するのではなく、信頼性、解釈可能性、協働性の向上に寄与する形で、バイアスを建設的に活用する方向へのシフトを提唱すること。
• 人間とAIの相互作用における認知バイアスのモデリング、理解、低減のための研究アジェンダを確立すること。

提案手法

• 人間の意思決定サイクルに基づく五段階の認知バイアス分類法を提唱：提示、解釈、価値付与、想起、意思決定。
• これらの五段階にわたり、アンカリング（提示）、確認バイアス（解釈）、可用性バイアス（想起）などの代表的な20の認知バイアスを分類。
• 三つの研究方向を提示：(1) バイアスに配慮した人間-AIインタラクション、(2) AIアルゴリズムにバイアスメカニズムを埋め込むことで耐性を高めること、(3) パーソナライズされた低減のための計算モデル化。
• ベイジアンモデリングや生成モデルなどの既存のフレームワークを活用し、バイアスの計算的モデリングを支援する。
• AIを用いて人間の行動を観察し、バイアスを自動で検出し、パーソナライズされた介入を提案する仕組みを提案。
• 説得的コンピューティングと行動科学の知見を活用し、適応的でユーザーに特化したバイアス低減戦略を設計する。

実験結果

リサーチクエスチョン

• RQ1 AIシステムは、人間-AIインタラクションのリアルタイムにおいて、人間の認知バイアスを認識し、それに適応できるようにどのように設計できるか？
• RQ2 人間-AIの相互作用は、人間同士の相互作用と同様の認知バイアスを示す程度はどの程度か？
• RQ3 人間の認知バイアスの背後にあるメカニズムを意図的にAIアルゴリズムに埋め込むことで、耐性や効率性を向上させられるか？
• RQ4 多様なタスクと個々のユーザーにわたる認知バイアスを統一的にモデリングする計算的フレームワークは何か？
• RQ5 意識に依存せず、パーソナライズされ、説得的戦略を用いて、AIシステムがユーザーがバイアスを減らすのを支援する方法は何か？

主な発見

• 認知バイアスは、人間の知覚、解釈、意思決定のすべての段階に体系的に存在し、単なる誤りではなく、人間の認知の根幹をなしている。
• 現在のAIシステムは、人間の行動や意思決定を形作る上で極めて重要な役割を果たす認知バイアスをほとんど無視している。
• 提示、解釈、価値付与、想起、意思決定の五段階からなる認知バイアスの分類法は、AIシステム設計のための構造的フレームワークを提供する。
• アンカリング、確認バイアス、可用性バイアス（例）を含む20の主要な認知バイアスが、AIシステムへの統合のための主要な候補であることが同定された。
• 三つの研究方向が提示された：(1) バイアスに配慮した人間-AIインタラクション、(2) AIアルゴリズムにおけるバイアスメカニズムの活用、(3) パーソナライズされた低減のための計算モデリング。
• ベイジアンモデリングや生成モデルなどの既存のアプローチは、認知バイアスの計算的モデリングのための有望な基盤を提供しているが、統一的でタスクに依存しないフレームワークはまだ存在しない。