[论文解读] Pluggable Social Artificial Intelligence for Enabling Human-Agent Teaming

Jurriaan van Diggelen, Jonathan Barnhoorn+6 more|arXiv (Cornell University)|Sep 10, 2019

Human-Automation Interaction and Safety参考文献 47被引用 7

一句话总结

本文提出了SAIL，一种可插拔的社会人工智能技术架构，通过模块化实现共享心智模型、自适应协作和社交协调等核心协作功能，从而实现人机协同。该框架通过标准化、可互换的组件，支持AI智能体无缝融入人类团队，已在北约HFM研讨会中通过概念验证原型得到展示。

ABSTRACT

As intelligent systems are increasingly capable of performing their tasks without the need for continuous human input, direction, or supervision, new human-machine interaction concepts are needed. A promising approach to this end is human-agent teaming, which envisions a novel interaction form where humans and machines behave as equal team partners. This paper presents an overview of the current state of the art in human-agent teaming, including the analysis of human-agent teams on five dimensions; a framework describing important teaming functionalities; a technical architecture, called SAIL, supporting social human-agent teaming through the modular implementation of the human-agent teaming functionalities; a technical implementation of the architecture; and a proof-of-concept prototype created with the framework and architecture. We conclude this paper with a reflection on where we stand and a glance into the future showing the way forward.

研究动机与目标

• 为应对智能系统自主性日益增强背景下对先进人机交互的日益增长需求。
• 开发一个统一框架，支持人类与AI智能体作为平等团队成员之间的社交化、协作式互动。
• 设计一种模块化、可扩展的技术架构，实现社会人工智能功能在现实团队协作场景中的灵活集成。
• 通过概念验证原型，在受控环境中验证该框架在实际人机协同中的可行性。
• 为未来在复杂操作领域中研究与部署社会智能代理提供基础。

提出的方法

• 提出一个五维框架，用于分析人机协同，涵盖共同目标、相互信任、协调、适应性及社交意识。
• 提出SAIL（社会人工智能）架构，作为实现核心协作功能的模块化、可插拔系统。
• 围绕可互换的组件设计SAIL架构，涵盖感知、通信、决策制定及社交行为建模。
• 采用标准化接口，实现多样化AI模块在人机团队中的即插即用集成。
• 将该框架应用于开发概念验证原型，并在模拟的人团队环境中进行测试。
• 借鉴人因工程与认知系统工程的洞见，确保架构支持自然、高效的协作。

实验结果

研究问题

• RQ1 如何构建社会人工智能，以实现人类与AI智能体之间的无缝、自适应协作？
• RQ2 在动态、现实世界环境中实现高效人机协同，哪些核心功能是必不可少的？
• RQ3 如何设计AI系统，使其在保持与人类队友社会与认知一致性的前提下，具备模块化与互操作性？
• RQ4 哪些架构原则可支持社会AI组件在操作性协同系统中的可插拔集成？
• RQ5 如何在真实的人机交互场景中验证SAIL框架？

主要发现

• SAIL架构成功实现了关键人机协同功能的模块化实现，包括共享心智模型与自适应协调。
• 概念验证原型在模拟任务环境中展示了人类参与者与AI智能体之间的有效协作。
• 可插拔设计允许灵活集成新AI组件，而不会破坏既有的协同动态。
• 该框架支持社交意识与响应式行为，增强了AI队友的信任度与可靠性感知。
• 该方法在北约HFM研讨会上得到验证，确认其在国防与操作应用中的相关性与可行性。
• 本研究识别出实现真正人机协同的关键挑战，包括意图对齐与实时适应，并提出了一种可扩展的解决方案。