[논문 리뷰] Pluggable Social Artificial Intelligence for Enabling Human-Agent Teaming

Jurriaan van Diggelen, Jonathan Barnhoorn외 6명|arXiv (Cornell University)|2019. 09. 10.

Human-Automation Interaction and Safety참고 문헌 47인용 수 7

한 줄 요약

이 논문은 공통 정신 모델, 적응형 협업, 사회적 조율과 같은 핵심 협업 기능을 모듈식으로 구현함으로써 인간-에이전트 팀워크를 가능하게 하는 플러그형 기술 아키텍처인 SAIL을 소개한다. 이 프레임워크는 표준화되고 상호 교환 가능한 구성 요소를 통해 인간 팀에 AI 에이전트를 원활하게 통합할 수 있도록 지원하며, NATO HFM 심포지엄에서 개념 실증 프로토타입을 통해 이를 입증하였다.

ABSTRACT

As intelligent systems are increasingly capable of performing their tasks without the need for continuous human input, direction, or supervision, new human-machine interaction concepts are needed. A promising approach to this end is human-agent teaming, which envisions a novel interaction form where humans and machines behave as equal team partners. This paper presents an overview of the current state of the art in human-agent teaming, including the analysis of human-agent teams on five dimensions; a framework describing important teaming functionalities; a technical architecture, called SAIL, supporting social human-agent teaming through the modular implementation of the human-agent teaming functionalities; a technical implementation of the architecture; and a proof-of-concept prototype created with the framework and architecture. We conclude this paper with a reflection on where we stand and a glance into the future showing the way forward.

연구 동기 및 목표

• 증가하는 자율성으로 운영되는 지능형 시스템을 고려할 때, 향상된 인간-기계 상호작용의 필요성을 해결하기 위해.
• 인간과 AI 에이전트가 동등한 팀 파트너로서 사회적이고 협업적인 상호작용을 지원하는 통합 프레임워크를 개발하기 위해.
• 실제 팀워크 시나리오에 사회적 인공지능 기능을 탄력적으로 통합할 수 있도록 유연하고 확장 가능한 기술 아키텍처를 설계하기 위해.
• 통제된 환경에서 실제 인간-에이전트 팀워크를 보여주는 개념 실증 프로토타입을 통해 프레임워크를 검증하기 위해.
• 복잡한 운영 도메인에서 사회적으로 지능적인 에이전트의 향후 연구 및 구현을 위한 기반을 제공하기 위해.

제안 방법

• 공동 목표, 상호 신뢰, 조율, 적응성, 사회적 인지의 다섯 가지 차원을 포함하는 인간-에이전트 팀워크 분석을 위한 프레임워크를 제안한다.
• 핵심 팀워크 기능을 구현하기 위한 모듈식이고 플러그형 시스템으로서 SAIL(Social Artificial Intelligence) 아키텍처를 도입한다.
• 지각, 의사소통, 의사결정, 사회적 행동 모델링을 위한 상호 교환 가능한 구성 요소를 중심으로 SAIL 아키텍처를 설계한다.
• 다양한 AI 모듈을 인간-에이전트 팀에 즉시 통합할 수 있도록 표준화된 인터페이스를 활용한다.
• 프로토타입을 개발하기 위해 프레임워크를 적용하여 인간 팀 환경에서 시뮬레이션된 환경에서 테스트하였다.
• 자연스럽고 효과적인 협업을 지원하기 위해 인간 요인 및 인지 시스템 공학의 통찰을 활용한다.

실험 결과

연구 질문

• RQ1 어떻게 사회적 인공지능을 구성하여 인간과 AI 에이전트 간의 원활하고 적응형 협업을 가능하게 할 수 있는가?
• RQ2 다이나믹하고 실제적인 환경에서 효과적인 인간-에이전트 팀워크를 달성하기 위해 필수적인 핵심 기능은 무엇인가?
• RQ3 AI 시스템은 인간 팀원과의 사회적 및 인지적 일치를 유지하면서도 모듈식이고 상호 운용 가능한 방식으로 어떻게 설계될 수 있는가?
• RQ4 사회적 인공지능 구성 요소를 운영 팀워크 시스템에 플러그형으로 통합하는 데 지원하는 아키텍처 원칙은 무엇인가?
• RQ5 SAIL 프레임워크는 실제 인간-에이전트 상호작용 시나리오에서 어떻게 검증될 수 있는가?

주요 결과

• SAIL 아키텍처는 공통 정신 모델링 및 적응형 조율와 같은 핵심 인간-에이전트 팀워크 기능을 성공적으로 모듈식으로 구현하였다.
• 개념 실증 프로토타입은 시뮬레이션된 미션 환경에서 인간 참가자와 AI 에이전트 간의 효과적인 협업을 입증하였다.
• 플러그형 설계 덕분에 기존 팀워크 다이내믹스를 손상시키지 않고도 새로운 AI 구성 요소를 탄력적으로 통합할 수 있었다.
• 프레임워크는 사회적 인지와 반응형 행동을 지원하여 AI 팀원의 신뢰도와 인식된 신뢰성 향상에 기여하였다.
• 이 연구는 NATO HFM 심포지엄에서 검증되었으며, 방위 및 운영 적용 분야에서의 관련성과 실현 가능성을 확인하였다.
• 연구는 의도의 일치 및 실시간 적응성 확보와 같은 진정된 인간-에이전트 팀워크를 달성하는 데 있어 핵심 과제를 규명하고, 확장 가능한 솔루션을 제안하였다.