[論文レビュー] Explainable AI and Adoption of Financial Algorithmic Advisors: an Experimental Study

Daniel Ben David, Yehezkel S. Resheff+1 more|arXiv (Cornell University)|Jan 5, 2021

Explainable Artificial Intelligence (XAI)参考文献 26被引用数 4

ひとこと要約

本実験的研究では、異なる種類の説明可能AI（XAI）の説明—局所的およびグローバルな説明—が、金融アルゴリズムアドバイザーのユーザーの採用、信頼、支払い意思図に与える影響を調査している。実金利害を伴うウェブベースのレモネードスタンドゲームを用いて、著者らは、正確性に基づく説明が初期の採用を促進すること、特徴量に基づくまたは正確性に基づく説明がモデル障害後の信頼の低下を緩和すること、およびオートパイLOT機能が採用率を顕著に向上させることを発見した。

ABSTRACT

We study whether receiving advice from either a human or algorithmic advisor, accompanied by five types of Local and Global explanation labelings, has an effect on the readiness to adopt, willingness to pay, and trust in a financial AI consultant. We compare the differences over time and in various key situations using a unique experimental framework where participants play a web-based game with real monetary consequences. We observed that accuracy-based explanations of the model in initial phases leads to higher adoption rates. When the performance of the model is immaculate, there is less importance associated with the kind of explanation for adoption. Using more elaborate feature-based or accuracy-based explanations helps substantially in reducing the adoption drop upon model failure. Furthermore, using an autopilot increases adoption significantly. Participants assigned to the AI-labeled advice with explanations were willing to pay more for the advice than the AI-labeled advice with a No-explanation alternative. These results add to the literature on the importance of XAI for algorithmic adoption and trust.

研究の動機と目的

• さまざまな種類の説明可能AI（XAI）の説明が、金融アルゴリズムアドバイザーのユーザー採用、信頼、支払い意思図に与える影響を調査すること。
• 説明の種類が、モデルのパフォーマンス変化（成功対失敗）に反応してユーザー行動に与える影響、特に時間経過に伴う影響を評価すること。
• モデル障害の状況下において、人間のアドバイスとAIアドバイスの採用率とユーザーの認識を比較すること。
• オートパイLOT機能と説明満足度がユーザー意思決定と信頼に与える役割を評価すること。
• 実際の金融インcentivesを用いて、ユーザー行動の変化を研究する動的実験フレームワークを構築・検証すること。

提案手法

• 実金利害を伴うウェブベースの制御実験を実施し、金融意思決定を模擬するためのレモネードスタンドゲームを用いた。
• 参加者をランダムに割り当て、人間のアドバイザーまたはアルゴリズムアドバイザーからアドバイスを受けるようにし、それぞれが5つの説明タイプ（グローバル：モデルパフォーマンス、特徴量の重要度、プロトタイプ例；局所的：正確性に基づく、特徴量に基づく；説明なし）のいずれかとペアにした。
• モデル障害発生前後を含む複数の時間点で、採用率、信頼度、支払い意思図（WTP）を測定した。
• ゲーム終了後のアンケートから、説明の質、信頼の前提要因、満足度に関するユーザーの認識を収集した。
• 時間依存的効果と障害回復の観点から、条件間での採用およびWTPの差を統計解析で比較した。
• 行動指標と自己報告による信頼・満足度を組み合わせた混合研究法を用い、研究結果の妥当性を検証した。

実験結果

リサーチクエスチョン

• RQ1 説明の種類（局所的対グローバル、正確性に基づく対特徴量に基づく）は、AI金融アドバイスの初期採用に顕著な影響を及えるか？
• RQ2 モデル障害はユーザーの採用と信頼にどのような影響を及ぼすか？特定の説明タイプはその負の影響を緩和できるか？
• RQ3 オートパイLOT機能の有無は、手動意思決定と比較してAIアドバイスの採用率を向上させるか？
• RQ4 説明の有無は、ユーザーがAIが生成する金融アドバイスに対して支払う意思図にどのような影響を及えるか？
• RQ5 説明満足度、信頼の前提要因、障害発生後の長期的採用行動との関係は何か？

主な発見

• 初期段階での正確性に基づく説明は、説明なしまたは他の説明タイプと比較して、顕著に高い採用率を示した。
• モデルが完璧に機能していた際には、説明の種類が採用に与える影響は最小限にとどまり、高パフォーマンスでは詳細な説明の必要性が低下することが示唆された。
• モデル障害後、特徴量に基づくおよび正確性に基づく説明は、採用率の低下を顕著に抑制し、信頼の維持に寄与した。単純な説明や説明なしの条件よりも優れた効果を示した。
• 説明付きのAIアドバイスを受けた参加者は、説明なしの条件よりも高い支払い意思図を示した。これは、説明が認識される価値を高めていることを示している。
• オートパイLOT機能は採用率を顕著に向上させた。これは、ユーザーが可能な限り意思決定を委任することを好む傾向がある、特に不確実性の高い状況下で顕著であることを示している。
• 説明満足度と初期採用との間に強い正の相関が認められ、信頼の前提要因と障害に起因する採用率の低下に対する耐性との間にも同様の相関が確認された。