[論文レビュー] Explainable Agents Through Social Cues: A Review

Sebastian Wallkötter, Silvia Tulli+3 more|arXiv (Cornell University)|Mar 11, 2020

Explainable Artificial Intelligence (XAI)参考文献 82被引用数 6

ひとこと要約

本稿は、会話、動き、注視などの社会的ヒントを用いて人間-ロボットインタラクションにおける透明性と信頼を向上させる、説明可能な身体的埋め込みエージェントについてレビューする。定義、社会的ヒントを用いた実装戦略、評価手法を統合的に検討し、学習フレームワークへの説明可能性統合における主な課題を特定するとともに、今後の研究における未解決の問題を提起する。

ABSTRACT

The issue of how to make embodied agents explainable has experienced a surge of interest over the last three years, and, there are many terms that refer to this concept, e.g., transparency or legibility. One reason for this high variance in terminology is the unique array of social cues that embodied agents can access in contrast to that accessed by non-embodied agents. Another reason is that different authors use these terms in different ways. Hence, we review the existing literature on explainability and organize it by (1) providing an overview of existing definitions, (2) showing how explainability is implemented and how it exploits different social cues, and (3) showing how the impact of explainability is measured. Additionally, we present a list of open questions and challenges that highlight areas that require further investigation by the community. This provides the interested reader with an overview of the current state-of-the-art.

研究の動機と目的

• 説明可能性の多様な定義を統合・明確化し、文献における用語の不整合性に対処すること。
• 会話、動き、テキスト、画像といった社会的ヒントが、身体的埋め込みエージェントにおける説明可能性の実装にどのように活用されているかを分析すること。
• 説明可能性の影響を測定するための既存手法を評価し、人間-ロボットインタラクションにおける信頼性、耐障害性、効率性に焦点を当てる。
• 特に学習および適応型システムへの説明可能性統合における研究のギャップを特定し、今後の研究における未解決の問いを提起すること。

提案手法

• キーワードベースの検索を用いた体系的文献レビューにより、説明可能な身体的埋め込みエージェントに関する32件の関連研究を同定した。
• 研究間で定義された説明可能性を分類・分析し、4つの核心的動機（対話型教育、信頼、チームワーク、倫理）を同定した。
• 説明可能性メカニズムと社会的ヒントのマッピング：口頭の説明（会話）、テキスト出力、可視的行動（動き）、視覚的表示（画像）。
• 説明可能性のイベントのアルゴリズム的選択について、主な研究で報告が不足しているため、関連研究から類推した。
• 評価手法をレビューし、信頼性、耐障害性、効率性に焦点を当て、実験で用いられた測定技術を評価した。
• 強化学習のような学習フレームワークへの説明可能性統合における統合の課題を特定し、今後の研究においてより詳細な報告を提言した。

実験結果

リサーチクエスチョン

• RQ1 エージェントの目的や行動に関する人間の期待や信念を予測または追跡するための効果的なモデルは何か？
• RQ2 説明可能性を身体的埋め込みエージェントに統合する際、学習メカニズムをどのように設計すれば人間をループに組み込めるか？
• RQ3 身体的埋め込みと環境的文脈は、説明可能性のための社会的ヒントの選択と有効性にどのように影響を与えるか？
• RQ4 説明可能な身体的埋め込みエージェントの信頼性を評価するための客観的で測定可能な指標は何か？
• RQ5 なぜ説明可能性がときには相互作用の効率性を向上させないのか、その背後にある要因は何か？

主な発見

• 研究間で説明可能性の定義に顕著な多様性が見られ、標準化された用語が存在しないため、著者らは統一された定義を提案した。
• 注視、会話、動きといった社会的ヒントが説明の伝達に頻繁に用いられており、特に動きと注視は可読性と意図の伝達に特に効果的である。
• 説明可能性メカニズムがアルゴリズム的にどのように選択されたり、学習プロセスに統合されているかを詳細に記述している研究はわずかに少数にとどまる。
• 信頼性と耐障害性が説明可能性の影響を測定する際に最も一般的に測定される結果であり、効率性は一貫した評価を受けていない。
• 急速な関心の高まりにもかかわらず、適応的および学習ベースのエージェントへの説明可能性統合は依然として未発達であり、既存の研究における方法論的報告は不十分である。
• 本レビューは、人間の期待のモデリング、人間を含むループ学習、ヒント選択への環境的要因の影響、客観的信頼指標、相互作用効率性への説明可能性の非一貫した影響という5つの主要な未解決の問いを同定した。