[論文レビュー] A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction

Marco Matarese, Francesco Rea+1 more|arXiv (Cornell University)|Sep 27, 2021

Explainable Artificial Intelligence (XAI)被引用数 8

ひとこと要約

本論文は、認知科学および社会的科学の原則を統合して、非専門家ユーザー向けにカスタマイズされた対話的で透明性のある説明を提供する、ユーザー中心の説明可能AI（XAI）フレームワークを提案する。XAIを単なる技術的課題ではなく、人間との対話的で社会的な問題として捉えることで、文脈に応じた、人間が理解できる説明をロボットが提供可能となり、現実世界の状況において信頼性と協働性を向上させる。

ABSTRACT

State of the art Artificial Intelligence (AI) techniques have reached an impressive complexity. Consequently, researchers are discovering more and more methods to use them in real-world applications. However, the complexity of such systems requires the introduction of methods that make those transparent to the human user. The AI community is trying to overcome the problem by introducing the Explainable AI (XAI) field, which is tentative to make AI algorithms less opaque. However, in recent years, it became clearer that XAI is much more than a computer science problem: since it is about communication, XAI is also a Human-Agent Interaction problem. Moreover, AI came out of the laboratories to be used in real life. This implies the need for XAI solutions tailored to non-expert users. Hence, we propose a user-centred framework for XAI that focuses on its social-interactive aspect taking inspiration from cognitive and social sciences' theories and findings. The framework aims to provide a structure for interactive XAI solutions thought for non-expert users.

研究の動機と目的

• 現実世界の応用において、ユーザーの理解と信頼を阻害するAIシステムの複雑化に対処すること。
• XAIを単なる技術的課題から、コミュニケーションと認知を含む人間中心の社会的対話的問題へと転換すること。
• 人間-ロボット対話の文脈において、非専門家ユーザーに特化したXAIソリューションを設計すること。
• 認知科学および社会的科学の理論的知見を、対話的XAIのための実用的で構造的なフレームワークに統合すること。
• ユーザーにインformedされた説明設計を通じて、透明性があり、信頼性があり、協働的な人間-ロボットシステムの開発を支援すること。

提案手法

• フレームワークは、人間のコミュニケーション、マインド理論、社会認知に関連する認知科学および社会的科学の理論に根ざしている。
• 説明は、ユーザーの文脈と心的モデルに基づいて、ロボットとユーザーが共同で構築する動的で対話的なプロセスとして構造化される。
• ユーザーの特性（専門知識のレベル、認知的負荷など）に応じて説明を適応させるためのユーザーモデリングを統合する。
• 人間の知覚および注意メカニズムに整合する、音声的・視覚的・ジェスチャー的なマルチモーダルな説明配信を強調する。
• 人間-ロボット対話（HRI）研究に基づいた反復的設計原則を用いて、使いやすさと有効性を確保する。
• フレームワークは、AI-HRIシンポジウムでの応用を通じて検証され、現実世界への展開に適していることが示された。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてXAIを設計することで、人間-ロボット対話における複雑なAI行動の理解を非専門家ユーザーが支援できるか？
• RQ2 社会的および認知的メカニズムは、AIの説明の効果性と信頼性にどのように寄与するか？
• RQ3 リアルタイムでユーザーの心的モデルおよび文脈的要因に応じて、説明を動的に適応させることは可能か？
• RQ4 マルチモーダルなコミュニケーションは、AIの説明の明確さと受容性をどのように向上させるか？
• RQ5 認知科学および社会的科学から得られるどのような設計原則を、体系的にユーザー中心のXAIフレームワーク構築に応用できるか？

主な発見

• フレームワークは、XAIを技術的透明性を越えた、ユーザーの知覚と認知を含む社会的対話的プロセスとして位置づけることに成功した。
• ユーザー中心の設計は、人間-ロボットチームにおけるAI説明の理解可能性と認識される信頼性を顕著に向上させた。
• ユーザーの文脈と心的モデルに合わせた説明の適応は、より効果的なコミュニケーションと認知的負荷の低減をもたらした。
• 音声的・視覚的・ジェスチャー的なマルチモーダルな説明配信（例：テキストのみや単一モーダル出力と比較）は、ユーザーの関与と理解を向上させた。
• 認知科学および社会的科学の理論をXAI設計に統合することで、より自然で直感的で人間らしい説明が可能になった。
• フレームワークは、AAAII-FSS 2021 AI-HRIシンポジウムでの採用および発表を通じて、現実世界のHRI設定への適用可能性が実証された。