[论文解读] Ontological grounding for sound and natural robot explanations via large language models

Alberto Olivares‐Alarcos, Muhammad Ahsan+3 more|arXiv (Cornell University)|Feb 14, 2026

Multimodal Machine Learning Applications被引用 0

一句话总结

论文提出一个混合本体–大模型框架，通过在本体中对数据进行 grounding、检索对比叙事并用大模型 refinement，生成语义上 grounded、简洁且自然的机器人解释。它在实验室 SSD 检查场景中验证该方法，显示解释的简明性与清晰性有所提升，同时保持语义准确性及对用户反馈的适应性。

ABSTRACT

Building effective human-robot interaction requires robots to derive conclusions from their experiences that are both logically sound and communicated in ways aligned with human expectations. This paper presents a hybrid framework that blends ontology-based reasoning with large language models (LLMs) to produce semantically grounded and natural robot explanations. Ontologies ensure logical consistency and domain grounding, while LLMs provide fluent, context-aware and adaptive language generation. The proposed method grounds data from human-robot experiences, enabling robots to reason about whether events are typical or atypical based on their properties. We integrate a state-of-the-art algorithm for retrieving and constructing static contrastive ontology-based narratives with an LLM agent that uses them to produce concise, clear, interactive explanations. The approach is validated through a laboratory study replicating an industrial collaborative task. Empirical results show significant improvements in the clarity and brevity of ontology-based narratives while preserving their semantic accuracy. Initial evaluations further demonstrate the system's ability to adapt explanations to user feedback. Overall, this work highlights the potential of ontology-LLM integration to advance explainable agency, and promote more transparent human-robot collaboration.

研究动机与目标

• 将机器人体验进行建模以提取计划属性（成本、完成时间、任务数量）以实现语义 grounding。
• 在基于本体的情景记忆中存储提取的知识，以便进行计划比较与分类。
• 检索对比两种计划的本体叙事并确保语义连贯性。
• 使用大模型代理将检索到的本体内容转化为简洁、清晰的解释。
• 在互动中展示解释对用户反馈的适应性。

提出的方法

• 从协作机器人–人类经验中提取计划属性（成本、完成时间、任务数量）。
• 推断并将知识存储在基于本体的情景记忆中，为计划比较与典型/非典型分类提供 grounding。
• 计算经验性最高密度区间（HDI）以将计划属性分类为典型或非典型，并将其 grounding 于 OWL 2 DL 本体。
• 使用 ACXON 在按时间索引的知识图中检索对比性的本体叙事，以获取计划对。
• 使用带系统提示和用户提示的 LLM 代理生成最终解释，以确保简洁、清晰和语义连贯。
• 通过附加提示实现对解释的交互式 refinement（如更短版本）。

实验结果

研究问题

• RQ1 机器人如何建模经验中的重复模式并生成可验证、自然的比较解释？
• RQ2 是否可以通过 LLM 有效生成并 refine 基于本体的叙事以提高解释质量，同时不牺牲语义准确性？
• RQ3 集成框架是否支持基于用户反馈对解释进行交互式调整？

主要发现

• 该框架在与基线叙述方法相比时，生成的基于本体的叙事简洁且语义准确。
• 该方法在保持底层语义含义的同时，展示了解释的简明性与清晰度提升。
• 系统支持对解释进行交互式调整以响应用户请求（如使解释更短）。
• 在实验室 SSD 检查任务中的经验评估显示，通过本体 grounding 与可靠的叙事检索实现了解释的有效性 grounding。
• 对成对计划叙事的检索可扩展到多计划，便于全面的对比性解释。