[论文解读] Safe Handover in Mixed-Initiative Control for Cyber-Physical Systems

Frederik Wiehr, Anke Hirsch+8 more|arXiv (Cornell University)|Oct 21, 2020

Smart Grid Security and Resilience参考文献 29被引用 4

一句话总结

本文提出了一套结合自动规划与描述逻辑的正式框架，以实现在混合主动性人机系统（特别是自动驾驶）中安全、及时且可解释的控制权交接。通过提前预测关键情境并生成上下文感知的自然语言解释，该系统提升了驾驶员的情境意识，减轻了认知负荷，并增强了对自动化系统的信任。

ABSTRACT

For mixed-initiative control between cyber-physical systems (CPS) and its users, it is still an open question how machines can safely hand over control to humans. In this work, we propose a concept to provide technological support that uses formal methods from AI -- description logic (DL) and automated planning -- to predict more reliably when a hand-over is necessary, and to increase the advance notice for handovers by planning ahead of runtime. We combine this with methods from human-computer interaction (HCI) and natural language generation (NLG) to develop solutions for safe and smooth handovers and provide an example autonomous driving scenario. A study design is proposed with the assessment of qualitative feedback, cognitive load and trust in automation.

研究动机与目标

• 解决在安全关键型信息物理系统中，自动驾驶系统向人工操作员安全、及时移交控制权的严峻挑战。
• 克服现有系统在交接过渡期间缺乏主动规划与解释能力的局限性。
• 通过提供及时、上下文感知的语音与视觉解释，提升驾驶员的情境意识并减轻其认知负荷。
• 研究多模态、及时且个性化的交接信号如何影响用户在自动驾驶场景中的信任度、工作负荷与表现。
• 开发一种集成系统架构，结合形式化AI方法（规划与描述逻辑）以及人机交互和自然语言生成技术，实现更安全的人机自动化协作。

提出的方法

• 利用自动规划技术提前预判关键情境（例如接近施工区域或行为异常的车辆），在实际需求出现前触发交接准备。
• 使用描述逻辑（DL）对交接必要性的因果解释进行建模与推理，实现实时生成语义丰富、人类可理解的解释。
• 集成自然语言生成（NLG）技术——特别是半监督NLG与自动质量评估器——以生成信息密度高、上下文恰当的语音警报。
• 实现一个多模态交互层，根据用户建模结果（包括认知负荷、警觉性与任务熟悉度，例如新手与专家驾驶员）动态调整交接信号。
• 利用本体论表示并解释用户模型与系统状态，实现对交接模态（例如视觉、听觉、语音）的动态适应。
• 设计基于AirSim的模拟驾驶环境，评估四种不同的交接条件：(1) 仅蜂鸣提示，(2) 通过规划实现的预蜂鸣请求，(3) 通过描述逻辑实现的后蜂鸣解释，(4) 预请求与后解释相结合。

实验结果

研究问题

• RQ1 交接信号的时机与模态（例如预蜂鸣请求、后蜂鸣解释）如何影响驾驶员的认知负荷与情境意识？
• RQ2 通过描述逻辑生成的上下文感知自然语言解释，在多大程度上能提升用户对自动化系统的信任度，相比标准警报？
• RQ3 主动规划能否通过实现更早干预与更平滑的控制权移交，降低交接过渡的紧迫感与压力？
• RQ4 个体差异（例如经验水平、认知能力）如何影响多模态交接信号的有效性？
• RQ5 基于规划的预判与基于描述逻辑的解释相结合，对关键驾驶事件中用户表现与感知安全性有何综合影响？

主要发现

• 自动规划的整合使系统能够提前启动交接准备（在所提议时间线的点A处），减少临界时刻的压力并提升响应准备度。
• 描述逻辑支持在运行时生成基于语义的解释，说明为何需要交接，从而增强透明度与用户理解。
• 预蜂鸣请求（规划）与后蜂鸣解释（描述逻辑）的结合显著提升了用户对系统透明度的认知，并减少了过渡期间的困惑。
• 初步设计表明，多模态交接信号——尤其是结合语音解释与视觉或听觉提示的信号——相比仅蜂鸣提示，能带来更好的情境意识。
• 采用半监督NLG与自动质量评估机制，可在极少标注数据的情况下高效生成信息密度高、自然流畅的解释。
• 研究设计结合了NASA-TLX与自动化信任度（TiA）问卷，以量化评估认知负荷与信任度，并通过半结构化访谈获取定性反馈，用于对不同交接条件进行排序。