[論文レビュー] Explaining Autonomy: Enhancing Human-Robot Interaction through Explanation Generation with Large Language Models

David Sobrín-Hidalgo, Miguel Á. González-Santamarta+3 more|arXiv (Cornell University)|Feb 6, 2024

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本論文は、人間-ロボットインタラクション（HRI）における自律ロボットの行動の説明可能性を向上させるために、大規模言語モデル（LLM）を活用したリトリーブ・アンメイド・ジェネレーション（RAG）システムを提案する。ロボットのログデータを解釈し、文脈に適した説明を生成することで、ユーザーの信頼と理解を高める。評価では、ヨーロッパロボティクスリーグ（European Robotics League）のフレームワーク下で、ナビゲーションタスクにおける技術的ユーザーに対して高品質な説明が得られた。

ABSTRACT

This paper introduces a system designed to generate explanations for the actions performed by an autonomous robot in Human-Robot Interaction (HRI). Explainability in robotics, encapsulated within the concept of an eXplainable Autonomous Robot (XAR), is a growing research area. The work described in this paper aims to take advantage of the capabilities of Large Language Models (LLMs) in performing natural language processing tasks. This study focuses on the possibility of generating explanations using such models in combination with a Retrieval Augmented Generation (RAG) method to interpret data gathered from the logs of autonomous systems. In addition, this work also presents a formalization of the proposed explanation system. It has been evaluated through a navigation test from the European Robotics League (ERL), a Europe-wide social robotics competition. Regarding the obtained results, a validation questionnaire has been conducted to measure the quality of the explanations from the perspective of technical users. The results obtained during the experiment highlight the potential utility of LLMs in achieving explanatory capabilities in robots.

研究の動機と目的

• 自律ロボットにおける説明可能性の向上による人間の信頼とシステムの透明性を高めるための、人間-ロボットインタラクション（HRI）における急増する要請に対処すること。
• 技術的熟練度に差があるユーザーが理解できる自然言語の説明に、低レベルのロボットログデータを変換するシステムを開発すること。
• 実世界のロボティクスナビゲーションシナリオにおけるLLMが生成する説明の質と使いやすさを評価すること。
• データ解釈、ユーザーに配慮した説明構築、リトリーブ・アンメイド・ジェネレーションを統合する説明生成パイプラインを形式化すること。
• ヨーロッパロボティクスリーグ（European Robotics League）という競争的ロボティクス環境で、システムの有効性を検証すること。

提案手法

• 自律ナビゲーションタスク中に、ウェイポイント追跡、障害物検出、経路計画の失敗などのロボット行動データを収集・ログ化する。
• ユーザーの質問に基づいて、ベクトルデータベースから関連するログセグメントをリトリーブするリトリーブ・アンメイド・ジェネレーション（RAG）フレームワークを用いる。
• 微調整された大規模言語モデル（LLM）が、取得したログデータを解釈し、ユーザーの知識レベルに合わせた自然言語の説明を構築する。
• 説明生成パイプラインは、3段階のプロセスに従う：データ収集、解釈可能なデータ解釈、ユーザーに配慮した説明構築。
• ヨーロッパロボティクスリーグ（ERL）からの実際のナビゲーション実行を用いて評価し、ログを処理し、技術的ユーザー向けに説明を生成する。
• ユーザー評価は、説明の質、明確さ、関連性を評価するアンケートを通じて実施し、特に「なぜ」「どうして」「何が」に関する質問への対応に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 LLMは自律ナビゲーションタスクにおけるロボットログデータから、人間が理解できる説明を効果的に生成できるか？
• RQ2 RAGの統合は、HRI文脈におけるLLMが生成する説明の事実的正確性と関連性をどのように向上させるか？
• RQ3 技術的ユーザーは、生成された説明を、ロボット行動を理解する上で明確で正確で役立つとどのように感じているか？
• RQ4 ユーザーの知識レベルの違いが、システムが生成する説明の質にどの程度影響を与えるか？
• RQ5 このLLM-RAGアプローチで最も効果的に説明できるロボットイベント（例：経路再計画、障害物回避）の種類は何か？

主な発見

• LLM-RAGシステムは、技術的ユーザーから明確さ、正確さ、完全性の観点で高い評価を得た説明を成功裏に生成した。
• 説明は、障害物のためのルート再計画や無効な経路の原因といった「なぜ」と「どうして」の質問に効果的に対応した。
• システムは、ウェイポイント受信、ナビゲーション障害、ゴールチェッカーの警告といった重要なイベントを正しく特定し、説明した。
• 評価から、ユーザーは説明のおかげで、とりわけ複雑なまたは失敗したナビゲーションシナリオにおけるロボット意思決定の理解が向上したと感じた。
• RAGの統合により、ゼロショットLLM生成に比べて、説明の事実的根拠が強化され、幻覚が減少した。
• 解釈可能なイベントに焦点を当て、自然言語で文脈を整えることで、曖昧または不完全なログデータに対しても、システムは頑健に対処できた。