[论文解读] AI Challenges in Human-Robot Cognitive Teaming
本文认为对人类进行认知建模对于实现高效的人机协作至关重要，提出一种更新的智能体架构，将 HuM 和 HuMM 纳入其中，以支持主动、社交和可解释的规划。
Among the many anticipated roles for robots in the future is that of being a human teammate. Aside from all the technological hurdles that have to be overcome with respect to hardware and control to make robots fit to work with humans, the added complication here is that humans have many conscious and subconscious expectations of their teammates - indeed, we argue that teaming is mostly a cognitive rather than physical coordination activity. This introduces new challenges for the AI and robotics community and requires fundamental changes to the traditional approach to the design of autonomy. With this in mind, we propose an update to the classical view of the intelligent agent architecture, highlighting the requirements for mental modeling of the human in the deliberative process of the autonomous agent. In this article, we outline briefly the recent efforts of ours, and others in the community, towards developing cognitive teammates along these guidelines.
研究动机与目标
- 说明为何人类认知期望在超越物理协作的前提下对人机协作至关重要。
- 提出更新经典代理架构以包含用于推理和决策的人类模型。
- 调研现有的代理类型并确定机器人在主动性和社交行为方面的认知需求。
- 概述在人类感知的规划、学习人类模型、沟通和评估方面在认知协作中的挑战与方法。
提出的方法
- 将 Sense-Model-Plan-Act (SMPA) 循环扩展为包含 Human Model (HuM) 和 Human Mental Model (HuMM)。
- 定义 C1-C3 能力：识别协作情境、预测团队行为，以及在考虑队友的同时采取有助于实现团队目标的行动。
- 讨论包含 HuM/HuMM 的多模型规划、可解释规划，以及用于使人机计划对齐的模型对齐解释。
- 提出用于人类模型的学习与评估方法，包括不完整模型和用于验证的微型世界测试台。
实验结果
研究问题
- RQ1自治代理应如何表示和推理人类队友及其心智模型（HuM/HuMM）？
- RQ2需要哪些规划与解释策略以产生对人类可感知、可解释且可信的机器人行为？
- RQ3机器人如何学习、适应并传达人类模型以提升长期团队绩效？
- RQ4哪些评估设置（微型世界）适合用于研究人机认知协作？
- RQ5从传统的目标-和行为驱动代理过渡到认知协作代理的关键挑战是什么？
主要发现
- 认知协作需要对人类的心智建模，而不仅仅是物理/世界状态。
- 具有 HuM 和 HuMM 的更新架构使得能够识别情境、预测行为，并在考虑人类的同时采取有助于实现团队目标的行动。
- 可解释规划和模型对齐可以在计划最优性与人类可理解性和信任之间取得平衡。
- 学习不完整的人类模型和双向通信对长期协作绩效至关重要。
- 微型世界（Microworlds）和测试平台对于快速原型设计和验证人机认知协作概念具有价值。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。