[论文解读] Agent Teaming Situation Awareness (ATSA): A Situation Awareness Framework for Human-AI Teaming

Qi Gao, Wei Xu+2 more|arXiv (Cornell University)|Aug 31, 2023

Human-Automation Interaction and Safety被引用 5

一句话总结

本文提出了代理团队情境意识（ATSA）框架，这是一种新颖的情境意识模型，专为人类-人工智能协同设计，通过双向、动态的交互统一人类与人工智能的认知过程。ATSA 通过针对人机协同（HAT）量身定制的感知循环，整合个体与团队层面的情境意识，强调协同理解、协同控制和交易记忆，为混合团队中的协作表现提升提供结构化方法。

ABSTRACT

The rapid advancements in artificial intelligence (AI) have led to a growing trend of human-AI teaming (HAT) in various fields. As machines continue to evolve from mere automation to a state of autonomy, they are increasingly exhibiting unexpected behaviors and human-like cognitive/intelligent capabilities, including situation awareness (SA). This shift has the potential to enhance the performance of mixed human-AI teams over all-human teams, underscoring the need for a better understanding of the dynamic SA interactions between humans and machines. To this end, we provide a review of leading SA theoretical models and a new framework for SA in the HAT context based on the key features and processes of HAT. The Agent Teaming Situation Awareness (ATSA) framework unifies human and AI behavior, and involves bidirectional, and dynamic interaction. The framework is based on the individual and team SA models and elaborates on the cognitive mechanisms for modeling HAT. Similar perceptual cycles are adopted for the individual (including both human and AI) and the whole team, which is tailored to the unique requirements of the HAT context. ATSA emphasizes cohesive and effective HAT through structures and components, including teaming understanding, teaming control, and the world, as well as adhesive transactive part. We further propose several future research directions to expand on the distinctive contributions of ATSA and address the specific and pressing next steps.

研究动机与目标

• 为应对人工智能系统向自主性和认知能力发展过程中，人类-人工智能协同（HAT）中情境意识（SA）统一理解的日益增长需求。
• 弥合现有 SA 模型的不足，将人类与人工智能行为整合进一个连贯、动态的框架中，适用于混合团队。
• 开发一个结构化模型，通过协同理解、协同控制和交易记忆组件，支持有效协作。
• 通过识别关键挑战和研究方向，为未来 HAT 中 SA 的研究提供基础。

提出的方法

• ATSA 框架基于既有的个体与团队情境意识模型，针对 HAT 环境进行调整，并为人类和人工智能代理量身定制感知循环。
• 它引入三个核心结构组件：协同理解、协同控制和世界模型，代表 HAT 的认知架构。
• 该框架整合了一种粘合性交易组件，以支持人类与人工智能之间的共享心智模型和信息交换。
• 它建模了双向 SA 交互，其中人类与人工智能持续感知、理解并预测团队层面的状态。
• 该框架强调团队成员之间 SA 的动态、实时适应，反映不断变化的任务需求和环境变化。
• 它借鉴认知科学与人工智能理论，形式化说明人类与人工智能如何通过相互感知和共享目标共同构建意识。

实验结果

研究问题

• RQ1 在人类与人工智能均具备认知与感知能力的协同情境中，情境意识应如何被有效建模？
• RQ2 为支持人类与人工智能在协同场景中的一体化与自适应协作，必要的结构组件是什么？
• RQ3 人类与人工智能之间双向、动态的 SA 交互与传统的人类独有或人工智能独有 SA 模型有何不同？
• RQ4 哪些机制能够实现人类-人工智能团队中的共享心智模型与交易记忆？
• RQ5 推进人类-人工智能协同中 SA 的关键研究空白与未来方向是什么？

主要发现

• ATSA 框架为人类-人工智能协同中情境意识提供了一个全面、统一的模型，整合了个体与团队层面的 SA 过程。
• 该框架识别出协同理解、协同控制和世界模型为有效 HAT 所必需的结构组件。
• 引入粘合性交易组件，实现了人类与人工智能代理之间动态的信息共享与相互意识。
• ATSA 支持双向 SA，使人类与人工智能能够实时感知、理解并预测团队状态。
• 该框架设计为可扩展且可适应多样化 HAT 应用，已识别出未来验证与扩展的研究方向。
• 该模型为设计支持而非破坏人类-人工智能协作的 AI 系统提供了理论基础，通过共享的情境理解实现协同。