[論文レビュー] Visioning Human-Agentic AI Teaming: Continuity, Tension, and Future Research

Bowen Lou, Tian Lu+2 more|arXiv (Cornell University)|Mar 5, 2026

Embodied and Extended Cognition被引用数 2

ひとこと要約

要約: 本論文は チーム状況認識（Team SA）を開放的なエージェントAIへ拡張し、連続性と緊張が長期的な整合性に与える影響を検討し、人間–エージェントAI協働の研究課題を提案する。

ABSTRACT

Artificial intelligence is undergoing a structural transformation marked by the rise of agentic systems capable of open-ended action trajectories, generative representations and outputs, and evolving objectives. These properties introduce structural uncertainty into human-AI teaming (HAT), including uncertainty about behavior trajectories, epistemic grounding, and the stability of governing logics over time. Under such conditions, alignment cannot be secured through agreement on bounded outputs; it must be continuously sustained as plans unfold and priorities shift. We advance Team Situation Awareness (Team SA) theory, grounded in shared perception, comprehension, and projection, as an integrative anchor for this transition. While Team SA remains analytically foundational, its stabilizing logic presumes that shared awareness, once achieved, will support coordinated action through iterative updating. Agentic AI challenges this presumption. Our argument unfolds in two stages: first, we extend Team SA to reconceptualize both human and AI awareness under open-ended agency, including the sensemaking of projection congruence across heterogeneous systems. Second, we interrogate whether the dynamic processes traditionally assumed to stabilize teaming in relational interaction, cognitive learning, and coordination and control continue to function under adaptive autonomy. By distinguishing continuity from tension, we clarify where foundational insights hold and where structural uncertainty introduces strain, and articulate a forward-looking research agenda for HAT. The central challenge of HAT is not whether humans and AI can agree in the moment, but whether they can remain aligned as futures are continuously generated, revised, enacted, and governed over time.

研究の動機と目的

• エージェントAIが開放的なアクション、表現、目的進化を導入し、従来のHAT整合性を不安定化させる仕組みを定義する。
• 開放的エージェンシーの下で人間とAIの認識を再構成するためにTeam SAを拡張する。
• 動的過程（関係的相互作用、学習、協調）が適応的自律性とともに協働を安定化させるか、あるいは不安定化させるかを評価する。
• 連続性と緊張を区別し、既存の洞察が当てはまる領域と新たな問いが生じる領域をマッピングする。
• エージェント的AIの下で将来のHAT研究のための構造化された研究課題を提案する。

提案手法

• エージェントAIの開放的エージェンシーとTeam SAを理論的に統合し、 HumansとAIのレベル1–3の知覚、理解、推定を再解釈する。
• 評価的態度理論、関係的相互作用、認知的学習、説明ガイダンス、集合的協調、運用統制がHATのTeam SAレベルとどのように整合するかをマッピングする。
• projection congruenceを人間とAIの時間を超えた期待のクロスシステム整合の重要な指標として導入する。
• 開放的HATにおける安定–非安定なダイナミクスを特定する連続性–緊張のフレームワークを開発する。
• Trajectory interpretation、Representation coherence、Projection congruenceに関する実証研究を導くためのRQs（RQ1.1–RQ1.4）と一階の質問を提示する。

実験結果

リサーチクエスチョン

• RQ1 RQ1.1 人間がAI主導の軌道変化と暗黙のコミットメントをどのように解釈しているかを捉える指標は何か。
• RQ2 RQ1.2 展開する中間状態を横断的に、人間が構築するタスク表現の一貫性と安定性をどのように評価できるか。
• RQ3 RQ1.3 射影一致性を分岐する未来と変動する目的優先順位を跨いでどのように評価するか。
• RQ4 RQ1.4 タスク特性はこれらの評価プロセスの堅牢性にどのような影響を与えるか。

主な発見

• 開放的エージェンシーは典型的なTeam SAの利点をひっくり返す可能性があり、関係的正当性が認識論的脆弱性に依存し、反復的更新が乖離を拡大する可能性を生む。
• 分岐する未来と統治方針の変動を予期する人間とAIにとって、Projection congruenceが中心となる。
• AIの認識（知覚・理解・推定）は開放的エージェンシー下で横断システムの整合性を評価するために観測可能かつ相互運用可能である必要がある。
• 連続性は静的な低レベルのTeam SAには持続するが、軌道と統治体制が進化する動的層では緊張が生じる。
• 本論は、エージェント的自律性の下で関係的相互作用・学習・協調において安定性または不安定性がどのように出現するかを検証するための研究課題を提示する。