[論文レビュー] Agent Teaming Situation Awareness (ATSA): A Situation Awareness Framework for Human-AI Teaming

Qi Gao, Wei Xu+2 more|arXiv (Cornell University)|Aug 31, 2023

Human-Automation Interaction and Safety被引用数 5

ひとこと要約

本稿では、人間とAIの共同作業（HAT）における状況認識（SA）を統合的に捉えるための新規な状況認識モデル、エージェント共同状況認識（ATSA）フレームワークを提案する。ATSAは、双方向的かつ動的な相互作用を通じて、人間とAIの認知プロセスを統合する。ATSAは、人間とAIの両方が持つ知覚サイクルを特化させた個別的およびチームレベルのSAを統合し、共同理解、制御、トランザクティブメモリを重視することで、混合チームにおける協働パフォーマンスを向上させる構造的かつ包括的なアプローチを提供する。

ABSTRACT

The rapid advancements in artificial intelligence (AI) have led to a growing trend of human-AI teaming (HAT) in various fields. As machines continue to evolve from mere automation to a state of autonomy, they are increasingly exhibiting unexpected behaviors and human-like cognitive/intelligent capabilities, including situation awareness (SA). This shift has the potential to enhance the performance of mixed human-AI teams over all-human teams, underscoring the need for a better understanding of the dynamic SA interactions between humans and machines. To this end, we provide a review of leading SA theoretical models and a new framework for SA in the HAT context based on the key features and processes of HAT. The Agent Teaming Situation Awareness (ATSA) framework unifies human and AI behavior, and involves bidirectional, and dynamic interaction. The framework is based on the individual and team SA models and elaborates on the cognitive mechanisms for modeling HAT. Similar perceptual cycles are adopted for the individual (including both human and AI) and the whole team, which is tailored to the unique requirements of the HAT context. ATSA emphasizes cohesive and effective HAT through structures and components, including teaming understanding, teaming control, and the world, as well as adhesive transactive part. We further propose several future research directions to expand on the distinctive contributions of ATSA and address the specific and pressing next steps.

研究の動機と目的

• AIシステムの自律性と認知能力の向上に伴い、人間-AI共同作業（HAT）における状況認識（SA）の統一的理解が高まる需要に対応すること。
• 既存のSAモデルにおけるギャップを埋めるために、人間とAIの行動を統合した、混合チームに適した包括的かつ動的なフレームワークを構築すること。
• 共同理解、チーム制御、トランザクティブメモリのコンponentsを通じて、効果的な協働を支援する構造的モデルを開発すること。
• 今後のHATにおけるSA研究の基盤を提供するため、主要な課題と研究方向性を同定すること。

提案手法

• ATSAフレームワークは、既存の個人およびチームレベルの状況認識モデルに基づき、HATの文脈に適合させるために人間とAIエージェントの両方の知覚サイクルを特化させたものである。
• フレームワークは、チーム共同理解、チーム制御、およびワールドモデルという3つのコア構造的コンポーネントを導入し、HATの認知アーキテクチャを表している。
• フレームワークは、人間とAI間の共有メンタルモデルと情報交換を支援する接着的トランザクティブコンポーネントを組み込んでいる。
• 両者による双方向的SA相互作用をモデル化し、人間とAIが継続的にチームレベルの状態を知覚・理解・予測する。
• フレームワークは、変化するタスク要件や環境変化を反映して、チームメンバー間でSAを動的にリアルタイムで適応させる点に重点を置いている。
• 認知科学とAI理論を援用し、人間とAIが相互の知覚と共有の目標を通じて、共に認識を構築する方法を形式化している。

実験結果

リサーチクエスチョン

• RQ1 認知的および知覚的能力を持つ両エージェントが関与する人間-AI共同作業の文脈において、状況認識をどのように効果的にモデル化できるか。
• RQ2 人間とAIの間で一貫性があり適応的な協働を実現するための、必要な構造的コンポーネントは何か。
• RQ3 人間とAIの間で双方向的かつ動的なSA相互作用は、従来の単一の人間またはAI専用のSAモデルとどのように異なるか。
• RQ4 人間-AIチームにおける共有メンタルモデルとトランザクティブメモリを実現するメカニズムは何か。
• RQ5 人間-AI共同作業におけるSAを発展させるにあたり、主要な研究ギャップと今後の研究方向性は何か。

主な発見

• ATSAフレームワークは、個人およびチームレベルのSAプロセスを統合した包括的かつ統一的なモデルを提供し、人間-AI共同作業における状況認識を実現する。
• フレームワークは、効果的なHATを実現するための基本的構造的コンポーネントとして、チーム共同理解、チーム制御、およびワールドモデルを同定している。
• 接着的トランザクティブコンポーネントの導入により、人間とAIエージェント間で動的な情報共有と相互の認識が可能になる。
• ATSAは双方向的SAを支援し、人間とAIがリアルタイムでチーム状態を知覚・理解・予測できる。
• フレームワークは、多様なHATアプリケーションに拡張可能かつ適応可能に設計されており、今後の検証と拡張に向けた研究方向性が同定されている。
• このモデルは、共有の状況理解を通じて人間-AI協働を支援するAIシステムの設計に理論的基盤を提供する。