[논문 리뷰] Agent Teaming Situation Awareness (ATSA): A Situation Awareness Framework for Human-AI Teaming

Qi Gao, Wei Xu외 2명|arXiv (Cornell University)|2023. 08. 31.

Human-Automation Interaction and Safety인용 수 5

한 줄 요약

이 논문은 인간-AI 협업(HAT)을 위한 새로운 상황 인식 모델인 에이전트 팀링 상황 인식(ATSA) 프레임워크를 제안한다. 이 프레임워크는 이중 방향성이고 동적인 상호작용을 통해 인간과 AI의 인지 과정을 통합한다. ATSA는 인간-AI 협업에 특화된 인지 사이클을 적용하여 개인 수준 및 팀 수준의 상황 인식을 통합하며, 팀링 이해, 통제, 공유 기억망을 강조함으로써 혼합 팀에서의 협업 성능을 향상시키는 체계적인 접근을 제공한다.

ABSTRACT

The rapid advancements in artificial intelligence (AI) have led to a growing trend of human-AI teaming (HAT) in various fields. As machines continue to evolve from mere automation to a state of autonomy, they are increasingly exhibiting unexpected behaviors and human-like cognitive/intelligent capabilities, including situation awareness (SA). This shift has the potential to enhance the performance of mixed human-AI teams over all-human teams, underscoring the need for a better understanding of the dynamic SA interactions between humans and machines. To this end, we provide a review of leading SA theoretical models and a new framework for SA in the HAT context based on the key features and processes of HAT. The Agent Teaming Situation Awareness (ATSA) framework unifies human and AI behavior, and involves bidirectional, and dynamic interaction. The framework is based on the individual and team SA models and elaborates on the cognitive mechanisms for modeling HAT. Similar perceptual cycles are adopted for the individual (including both human and AI) and the whole team, which is tailored to the unique requirements of the HAT context. ATSA emphasizes cohesive and effective HAT through structures and components, including teaming understanding, teaming control, and the world, as well as adhesive transactive part. We further propose several future research directions to expand on the distinctive contributions of ATSA and address the specific and pressing next steps.

연구 동기 및 목표

• AI 시스템의 자율성과 인지 능력 향상에 따라 인간-AI 협업(HAT)에서 상황 인식(SA)에 대한 통합적 이해가 점점 더 필요한 상황을 해결하기 위해.
• 기존의 SA 모델 간 격차를 해소하기 위해 인간과 AI 행동을 협업적이고 동적인 프레임워크로 통합하여 혼합 팀에 적합한 모델을 개발하기 위해.
• 팀링 이해, 팀링 통제, 공유 기억망 구성 요소를 통해 효과적인 협업을 지원하는 체계적인 모델을 개발하기 위해.
• 미래의 HAT에서의 상황 인식 연구를 위한 기반을 마련하기 위해 핵심 과제와 연구 방향을 규명하기 위해.

제안 방법

• ATSA 프레임워크는 기존의 개인 및 팀 수준 상황 인식 모델을 기반으로 하되, HAT 환경에 맞게 인간과 AI 에이전트 전용으로 조정된 인지 사이클을 적용한다.
• 세 가지 핵심 구조적 구성 요소인 팀링 이해, 팀링 통제, 세계 모델을 도입하여 HAT의 인지 아키텍처를 나타낸다.
• 공유 정신 모델과 인간-AI 간 정보 교환을 지원하기 위해 黏성 있는 공유 기억망 구성 요소를 통합한다.
• 양방향 상황 인식 상호작용을 모델링하여 인간과 AI가 지속적으로 팀 수준 상태를 인지하고 이해하며 예측한다.
• 작업 요구 사항과 환경 변화에 따라 팀원 간 상황 인식의 동적 실시간 적응을 강조한다.
• 인지 과학과 AI 이론을 기반으로 인간과 AI가 상호 인지와 공유 목표를 통해 함께 인식을 공건설하는 방식을 체계화한다.

실험 결과

연구 질문

• RQ1 인지 및 인지 능력을 모두 지닌 에이전트가 존재하는 인간-AI 협업 환경에서 상황 인식을 효과적으로 모델링할 수 있는 방법은 무엇인가?
• RQ2 인간과 AI 간의 협업 시나리오에서 유기적이고 유연한 협업을 지원하기 위해 필요한 구조적 구성 요소는 무엇인가?
• RQ3 인간과 AI 간의 이중 방향성이고 동적인 상황 인식 상호작용은 기존의 인간 전용 또는 AI 전용 상황 인식 모델과 어떻게 다를 수 있는가?
• RQ4 인간-AI 팀에서 공유 정신 모델과 공유 기억망을 가능하게 하는 메커니즘은 무엇인가?
• RQ5 인간-AI 협업에서 상황 인식을 발전시키기 위한 핵심 연구 격차와 향후 연구 방향은 무엇인가?

주요 결과

• ATSA 프레임워크는 개인 수준 및 팀 수준의 상황 인식 과정을 통합한 종합적이고 통합적인 인간-AI 협업 상황 인식 모델을 제공한다.
• 프레임워크는 효과적인 HAT를 위해 팀링 이해, 팀링 통제, 세계 모델을 필수적인 구조적 구성 요소로 규명한다.
• 접착성 있는 공유 기억망 구성 요소의 통합을 통해 인간과 AI 에이전트 간의 동적 정보 공유와 상호 인식이 가능해진다.
• ATSA는 이중 방향 상황 인식을 지원하여 인간과 AI가 실시간으로 팀 상태를 인지하고 이해하며 예측할 수 있다.
• 프레임워크는 다양한 HAT 응용 분야에 확장 가능하고 적응 가능하도록 설계되었으며, 검증 및 확장에 대한 향후 연구 방향이 명시되어 있다.
• 이 모델은 공유 상황 인식을 통해 인간-AI 협업을 지원하는 AI 시스템 설계를 위한 이론적 기반을 제공한다.