[论文解读] The ORCA Hub: Explainable Offshore Robotics through Intelligent Interfaces

Helen Hastie, Katrin S. Lohan+6 more|arXiv (Cornell University)|Mar 6, 2018

Reservoir Engineering and Simulation Methods被引用 30

一句话总结

ORCA Hub 提出了一种可解释的、多模态的人机交互界面，专为海上机器人系统设计，通过提供实时、上下文感知的机器人行为、感知与规划解释，提升信任度与情境意识。该系统采用因果建模与自适应界面，减轻认知负荷，并在高风险、复杂的环境中支持决策制定。

ABSTRACT

We present the UK Robotics and Artificial Intelligence Hub for Offshore Robotics for Certification of Assets (ORCA Hub), a 3.5 year EPSRC funded, multi-site project. The ORCA Hub vision is to use teams of robots and autonomous intelligent systems (AIS) to work on offshore energy platforms to enable cheaper, safer and more efficient working practices. The ORCA Hub will research, integrate, validate and deploy remote AIS solutions that can operate with existing and future offshore energy assets and sensors, interacting safely in autonomous or semi-autonomous modes in complex and cluttered environments, co-operating with remote operators. The goal is that through the use of such robotic systems offshore, the need for personnel will decrease. To enable this to happen, the remote operator will need a high level of situation awareness and key to this is the transparency of what the autonomous systems are doing and why. This increased transparency will facilitate a trusting relationship, which is particularly key in high-stakes, hazardous situations.

研究动机与目标

• 解决在高风险海上能源环境中自主系统信任度低的挑战。
• 通过提供针对特定情境的、上下文敏感的机器人行为解释，减轻远程操作员的认知负荷。
• 通过透明且可交互的感知、规划与行动解释，实现人机协作。
• 将黑箱与灰箱人工智能模型（如深度学习、贝叶斯网络）整合进可解释框架。
• 开发以用户为中心的界面，能够适应个体认知模型、交互模态及实时认知状态。

提出的方法

• 设计一种自适应的、情境感知的多模态界面，根据用户上下文与认知负荷动态调整解释内容与模态。
• 使用非侵入式认知负荷测量方法（如瞳孔反应、NASA-TLX）动态调节信息传递。
• 从机器人行为与控制器中生成因果解释，尤其针对卷积神经网络（CNNs）与循环神经网络（RNNs）等黑箱模型，采用因果模型归纳技术。
• 利用分层认知分块与感知处理原理，构建高效的人类理解解释结构。
• 将因果规划结构与重规划输出作为解释生成的来源，实现可追溯的推理过程。
• 应用 DARPA XAI COGLE 项目的技术，从观测数据中推导出可程序化的模型，以提升可解释性。

实验结果

研究问题

• RQ1 在海上环境中，自主系统如何提供可解释的、即时的解释，以减轻操作员的认知负荷？
• RQ2 在不同用户认知模型与操作情境下，何种形式的解释（文本、视觉、自然语言）最为有效？
• RQ3 如何从黑箱机器人行为中归纳出因果模型，以实现可交互的透明性？
• RQ4 何种指标最能评估高风险机器人操作中解释的质量与实用性？
• RQ5 如何在保持清晰性与降低心理负担的前提下，对解释进行个性化以适配个体用户？

主要发现

• ORCA Hub 通过生成机器人行为的因果性、可查询表示，实现了可解释的自主性，即使在黑箱模型下亦可实现。
• 考虑认知负荷的自适应界面设计，显著提升了复杂海上作业中机器人系统的可用性与可信度。
• 对感知、行为与规划的解释（如“你在看什么？”和“你为什么这么做？”）是人机协作的关键。
• 从观测数据中建立因果模型，可实现对机器人决策的可解释性解释，即使底层人工智能模型本身不透明。
• 多模态反馈（视觉、文本、听觉）的整合增强了情境意识，并支持更快、更明智的决策。
• 通过 Flesch 可读性评分与用户性能基准等指标评估解释效果，证实了根据用户需求定制解释风格的重要性。