[논문 리뷰] Cognitive Load-based Affective Workload Allocation for Multi-human Multi-robot Teams

Wonse Jo, Ruiqi Wang외 4명|arXiv (Cornell University)|2023. 03. 18.

Human-Automation Interaction and Safety인용 수 5

한 줄 요약

이 논문은 다중 인간-다중 로봇 팀을 위한 딥 강화학습 기반의 정서적 작업부하 할당 컨트롤러(AWAC)를 제안한다. 이 시스템은 주관적인 자가 보고된 작업부하 점수와 생리적 및 행동 데이터로부터 도출된 객관적인 인지 작업부하 예측치를 모두 활용하여 실시간으로 작업부하를 재할당한다. 이는 실시간 운영자 작업부하 상태에 적응함으로써 팀 성능을 크게 향상시키며, 기존의 능력 기반 또는 객관적 측정 기반 할당 방법보다 실생활 CCTV 모니터링 실험(32명의 참가자)에서 뛰어난 성능을 보였다.

ABSTRACT

The interaction and collaboration between humans and multiple robots represent a novel field of research known as human multi-robot systems. Adequately designed systems within this field allow teams composed of both humans and robots to work together effectively on tasks such as monitoring, exploration, and search and rescue operations. This paper presents a deep reinforcement learning-based affective workload allocation controller specifically for multi-human multi-robot teams. The proposed controller can dynamically reallocate workloads based on the performance of the operators during collaborative missions with multi-robot systems. The operators' performances are evaluated through the scores of a self-reported questionnaire (i.e., subjective measurement) and the results of a deep learning-based cognitive workload prediction algorithm that uses physiological and behavioral data (i.e., objective measurement). To evaluate the effectiveness of the proposed controller, we use a multi-human multi-robot CCTV monitoring task as an example and carry out comprehensive real-world experiments with 32 human subjects for both quantitative measurement and qualitative analysis. Our results demonstrate the performance and effectiveness of the proposed controller and highlight the importance of incorporating both subjective and objective measurements of the operators' cognitive workload as well as seeking consent for workload transitions, to enhance the performance of multi-human multi-robot teams.

연구 동기 및 목표

• 모니터링되지 않은 인지 작업부하와 일관되지 않은 인간 성능으로 인해 발생하는 다중 인간-다중 로봇(MH-MR) 팀에서의 최적화되지 않은 작업부하 할당 문제를 해결하기 위해.
• 협업 임무 중 운영자 인지 상태의 실시간 변화에 적응하는 동적 작업부하 할당 시스템을 개발하기 위해.
• 더 정확하고 반응성이 높은 작업부하 예측을 위해 주관적(자기 보고) 및 객관적(생리적 및 행동적) 인지 작업부하 측정치를 통합하기 위해.
• 실생활 실험을 통해 제안된 컨트롤러의 효과성을 검증하기 위해.
• 운영자 동의가 작업부하 전환에 미치는 영향과 팀 성능에 대한 영향을 탐색하기 위해.

제안 방법

• AWAC 컨트롤러는 딥 강화학습(DRL)을 사용하여 실시간 성과 지표에 기반해 인간 운영자 간에 로봇 감시 작업을 동적으로 재할당한다.
• 운영자 인지 작업부하는 자기 보고된 순간 자가 평가(IS) 설문지와 생리적 및 행동 신호로부터 작업부하를 예측하는 딥 러닝(DL) 기반 모델을 통해 평가된다.
• DRL 에이전트는 팀 성과, 개별 운영자 작업부하(IS 및 PS), 작업부하 전환 선호도(AS) 등의 상태 입력을 받으며, 로봇 팀을 재할당하는 행동을 취한다.
• 행동 공간은 인간 운영자 간에 로봇 플랫폼을 재할당할 수 있는 가능한 조치를 포함하며, 목표는 최적의 작업부하 수준을 유지하면서 임무 점수를 최대화하는 것이다.
• DRL 프레임워크는 실생활 CCTV 모니터링 작업(6대의 로봇 플랫폼 포함)에 참여한 32명의 인간 참가자 데이터를 사용하여 훈련 및 평가된다.
• 운영자 동의(AS)는 시스템 수용성과 성능 향상에 핵심적인 구성 요소로 통합된다.

Figure 1 : Conceptual illustration of the deep reinforcement learning (DRL)-based affective workload allocation controller (AWAC) for multi-human multi-robot (MH-MR) teams.

실험 결과

연구 질문

• RQ1 주관적 및 객관적 인지 작업부하 측정치를 통합함으로써 MH-MR 팀의 작업부하 할당과 팀 성능은 어떻게 향상되는가?
• RQ2 실시간 작업부하 상태를 고려하는 DRL 기반 컨트롤러는 기존의 능력 기반 또는 객관적 측정만 기반으로 한 할당 방법보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ3 작업부하 전환에 대한 운영자 동의를 포함할 경우 팀 성능과 시스템 수용성은 어떻게 영향을 받는가?
• RQ4 DRL 기반 정서적 작업부하 할당 컨트롤러는 다양한 인지 부하 조건 하에서도 임무 성능을 유지하거나 향상시킬 수 있는가?
• RQ5 제안된 AWAC 컨트롤러는 다양한 인간-로봇 팀 구성과 임무 유형에 대해 얼마나 일반화 가능한가?

주요 결과

• 제안된 AWAC 컨트롤러는 기존의 전통적 작업부하 할당 방법보다 팀 성능을 뚜렷이 향상시켰으며, 임무 점수에 대한 rmANOVA 분 析에서 p-value가 .1 미만이었다.
• 주관적(IS) 및 객관적(PS) 인지 작업부하 측정치를 모두 사용한 할당(Team G)은 객관적 측정만 사용한 할당(Team E), 능력 기반 방법(Team C), 기존 작업 할당(Team B)보다 뛰어난 성능를 보였다.
• 작업부하 전환에 대한 운영자 동의(AS) 통합은 자동 결정에만 의존하는 경우보다 더 나은 성능로 이어졌으며, 인간이 개입하는 검증의 중요성을 시사했다.
• DRL 기반 컨트롤러는 생리적 및 행동 데이터로부터의 실시간 인지 상태 평가에 기반해 로봇을 동적으로 재할당함으로써 최적의 작업부하 수준을 효과적으로 유지했다.
• 현재 실험 공간과 장비의 제약으로 인해 시스템의 확장성에 한계가 있었지만, 상태 공간과 행동 공간을 확장함으로써 더 많은 운영자와 로봇을 포함하는 데에 프레임워크를 확장할 수 있었다.
• 결과는 인지 작업부하가 인간-로봇 팀 성능에 결정적인 요소이며, 이를 忽시할 경우 과부하 또는 과소부하로 인한 성능 저하 상황에서 최적의 작업할당이 이뤄지지 않는다는 점을 확인했다.

Figure 2 : Generalized correlation between performance and levels of cognitive workload based on the Yerkes-Dodson law [ 43 ] .