[论文解读] Cognitive Load-based Affective Workload Allocation for Multi-human Multi-robot Teams

Wonse Jo, Ruiqi Wang+4 more|arXiv (Cornell University)|Mar 18, 2023

Human-Automation Interaction and Safety被引用 5

一句话总结

本文提出了一种基于深度强化学习的情感化工作量分配控制器（AWAC），用于多人类多机器人团队，该控制器通过结合主观自报工作量评分与来自生理和行为数据的客观认知工作量预测，动态重新分配工作量。该系统通过实时适应操作员的工作量状态，显著提升了团队性能，在32名受试者的现实世界CCTV监控实验中，优于基于能力或客观测量的传统分配方法。

ABSTRACT

The interaction and collaboration between humans and multiple robots represent a novel field of research known as human multi-robot systems. Adequately designed systems within this field allow teams composed of both humans and robots to work together effectively on tasks such as monitoring, exploration, and search and rescue operations. This paper presents a deep reinforcement learning-based affective workload allocation controller specifically for multi-human multi-robot teams. The proposed controller can dynamically reallocate workloads based on the performance of the operators during collaborative missions with multi-robot systems. The operators' performances are evaluated through the scores of a self-reported questionnaire (i.e., subjective measurement) and the results of a deep learning-based cognitive workload prediction algorithm that uses physiological and behavioral data (i.e., objective measurement). To evaluate the effectiveness of the proposed controller, we use a multi-human multi-robot CCTV monitoring task as an example and carry out comprehensive real-world experiments with 32 human subjects for both quantitative measurement and qualitative analysis. Our results demonstrate the performance and effectiveness of the proposed controller and highlight the importance of incorporating both subjective and objective measurements of the operators' cognitive workload as well as seeking consent for workload transitions, to enhance the performance of multi-human multi-robot teams.

研究动机与目标

• 解决由于未监测的认知工作量和人类表现不一致，导致多人类多机器人（MH-MR）团队中工作量分配不 optimal 的挑战。
• 开发一种动态工作量分配系统，能够根据协作任务中操作员认知状态的实时变化进行调整。
• 整合主观（自报）和客观（生理和行为）的认知工作量度量，以实现更准确、更及时的工作量预测。
• 通过现实世界中的多人类多机器人CCTV监控场景实验，验证所提出控制器的有效性。
• 探讨操作员同意对工作量转换的影响及其对团队性能的作用。

提出的方法

• AWAC控制器使用深度强化学习（DRL）根据实时性能指标，在人类操作员之间动态重新分配机器人监管任务。
• 通过自报的即时自我评估（IS）问卷和基于深度学习（DL）的模型评估操作员的认知工作量，后者可从生理和行为信号中预测工作量。
• DRL智能体接收包括团队表现、个体操作员工作量（IS和PS）以及工作量转换偏好（AS）在内的状态输入，并采取行动重新分配机器人团队。
• 动作空间包括在人类操作员之间重新分配机器人平台的可能选项，目标是最大化任务得分，同时保持最优工作量水平。
• 使用32名人类受试者在现实世界CCTV监控任务中收集的数据，对DRL框架进行训练和评估，任务涉及六个机器人平台。
• 系统将操作员对工作量转换的同意（AS）作为关键组成部分，以提高接受度和性能。

Figure 1 : Conceptual illustration of the deep reinforcement learning (DRL)-based affective workload allocation controller (AWAC) for multi-human multi-robot (MH-MR) teams.

实验结果

研究问题

• RQ1 整合主观与客观认知工作量度量在多人类多机器人团队中如何改善工作量分配与团队性能？
• RQ2 考虑实时工作量状态的基于DRL的控制器在多大程度上优于传统的基于能力或仅基于客观指标的工作量分配方法？
• RQ3 在工作量转换中纳入操作员同意如何影响团队性能与系统接受度？
• RQ4 基于DRL的情感化工作量分配控制器是否能在不同认知负荷条件下维持或提升任务性能？
• RQ5 所提出的AWAC控制器在不同人类-机器人团队配置和任务类型中的可推广性如何？

主要发现

• 与传统工作量分配方法相比，所提出的AWAC控制器显著提升了团队性能，任务得分的rmANOVA分析p值小于.1。
• 结合主观（IS）和客观（PS）认知工作量度量的分配方法（任务G）优于仅基于客观度量的分配（任务E）、基于能力的方法（任务C）以及传统任务分配（任务B）。
• 将操作员对工作量转换的同意（AS）整合进来后，性能优于完全依赖AWAC自动决策的情况，表明人机协同验证的重要性。
• 基于DRL的控制器通过根据生理和行为数据的实时认知状态评估，有效维持了最优工作量水平，实现动态重新分配。
• 由于实验空间和设备的限制，当前设置下系统表现出可扩展性局限，但通过扩展状态空间和动作空间，该框架可推广至更多操作员和机器人。
• 结果证实，认知工作量是影响人机团队性能的关键因素，忽略工作量会导致次优任务分配，尤其在因过载或欠载导致性能下降时。

Figure 2 : Generalized correlation between performance and levels of cognitive workload based on the Yerkes-Dodson law [ 43 ] .