[論文レビュー] Ontological grounding for sound and natural robot explanations via large language models

Alberto Olivares‐Alarcos, Muhammad Ahsan+3 more|arXiv (Cornell University)|Feb 14, 2026

Multimodal Machine Learning Applications被引用数 0

ひとこと要約

要約: 本論文は、データをオントロジーに基づいて根拠づけ、対照的な語りを検索し、LLMで洗練することで、意味的に根拠づけられた簡潔で自然なロボットの説明を生成するハイブリッドなオントロジー–LLM フレームワークを提案する。 laboratory SSD検査シナリオで検証し、説明の簡潔さと明瞭さを向上させつつ、意味的正確性とユーザーフィードバックへの適応性を保持する。

ABSTRACT

Building effective human-robot interaction requires robots to derive conclusions from their experiences that are both logically sound and communicated in ways aligned with human expectations. This paper presents a hybrid framework that blends ontology-based reasoning with large language models (LLMs) to produce semantically grounded and natural robot explanations. Ontologies ensure logical consistency and domain grounding, while LLMs provide fluent, context-aware and adaptive language generation. The proposed method grounds data from human-robot experiences, enabling robots to reason about whether events are typical or atypical based on their properties. We integrate a state-of-the-art algorithm for retrieving and constructing static contrastive ontology-based narratives with an LLM agent that uses them to produce concise, clear, interactive explanations. The approach is validated through a laboratory study replicating an industrial collaborative task. Empirical results show significant improvements in the clarity and brevity of ontology-based narratives while preserving their semantic accuracy. Initial evaluations further demonstrate the system's ability to adapt explanations to user feedback. Overall, this work highlights the potential of ontology-LLM integration to advance explainable agency, and promote more transparent human-robot collaboration.

研究の動機と目的

• 経験をグラウンドして計画特性（コスト、総作業時間、タスク数）を意味的なグラウンドに抽出する。
• 抽出された知識をオントロジー型エピソディックメモリに格納して計画の比較と分類を可能にする。
• 二つの計画を対比させるオントロジー語りを retrieved し、意味の整合性を保証する。
• retrieved オントロジー内容を簡潔で明瞭な説明へ変換するためにLLMエージェントを使用する。
• 対話中のユーザーフィードバックに対する説明の適応能力を実証する。

提案手法

• 協働ロボット–人間の経験から計画特性を抽出する（コスト、総作業時間、タスク数）。
• 計画の比較と典型/非典型分類をグラウンドするオントロジー基盤のエピソディックメモリに知識を推論・格納する。
• empirical 高密度区間（HDI）を計算して計画特性を典型的/非典型として分類し、OWL 2 DL オンタロジーにグラウンドする。
• 時間インデックス付知識グラフを用いてACXONで対照的なオントロジー語話を取得する。
• 最終的な説明をLLMエージェント（システムプロンプト＋ユーザープ prompts）で生成し、簡潔さ、明瞭さ、意味的整合性を保証する。
• 追加のプロンプトを介して説明をインタラクティブに洗練（例：短い版）する。

実験結果

リサーチクエスチョン

• RQ1 ロボットは経験の繰り返しパターンをモデル化し、それらを比較する健全で自然な説明を生成できるか。
• RQ2 オントロジーに基づく語りをLLMで効果的に生成・洗練して、意味的正確性を損なうことなく説明の質を向上させられるか。
• RQ3 統合フレームワークはユーザーフィードバックに基づく説明の対話的適応をサポートするか。

主な発見

• オントロジーに基づく語りは、ベースライン語りアプローチと比較して簡潔で意味的に正確である。
• 説明の簡潔さと明瞭さが向上しつつ、基盤となる意味的意味を保持する。
• ユーザーの要望に応じて説明をインタラクティブに調整できる（例：説明を短くする）。
• ラボのSSD検査タスクでの経験的評価は、オントロジーによる説明の根拠づけと信頼できる語りの取得を示す。
• ペアワイズの計画語りの取得は複数計画へ拡張可能で、対照的な説明を網羅的に提供できる。