[论文解读] A Mental-Model Centric Landscape of Human-AI Symbiosis

Zahra Zahedi, Sarath Sreedharan+1 more|arXiv (Cornell University)|Feb 18, 2022

Cognitive Science and Mapping被引用 16

一句话总结

本文提出了一种广义的人类意识交互（GHAI）框架，通过建模六种不同的心理模型——真实情况、自我模型和相互信念模型——实现了对人机共生关系的统一理解。通过将人机交互分类为模型通信或模型遵循行为，GHAI揭示了各类研究中的结构化模式，并指出了在长期交互、信任建模和计算理性方面存在的关键研究空白。

ABSTRACT

There has been significant recent interest in developing AI agents capable of effectively interacting and teaming with humans. While each of these works try to tackle a problem quite central to the problem of human-AI interaction, they tend to rely on myopic formulations that obscure the possible inter-relatedness and complementarity of many of these works. The human-aware AI framework was a recent effort to provide a unified account for human-AI interaction by casting them in terms of their relationship to various mental models. Unfortunately, the current accounts of human-aware AI are insufficient to explain the landscape of the work doing in the space of human-AI interaction due to their focus on limited settings. In this paper, we aim to correct this shortcoming by introducing a significantly general version of human-aware AI interaction scheme, called generalized human-aware interaction (GHAI), that talks about (mental) models of six types. Through this paper, we will see how this new framework allows us to capture the various works done in the space of human-AI interaction and identify the fundamental behavioral patterns supported by these works. We will also use this framework to identify potential gaps in the current literature and suggest future research directions to address these shortcomings.

研究动机与目标

• 为解决当前缺乏统一框架来捕捉超越被动观察的多样化人机交互类型的问题。
• 通过引入六种不同的心理模型（包括真实情况和相互信念表示），扩展人类意识AI框架。
• 识别出广泛人机交互研究中普遍存在的基本行为模式——模型通信与模型遵循。
• 揭示人机团队在长期交互、信任动态和计算理性方面的关键研究空白。
• 通过将现有文献映射到GHAI框架并提出方向，为未来研究提供指导，以实现更具适应性、信任感知和持续性的协作。

提出的方法

• 提出广义的人类意识交互（GHAI）框架，包含六种不同的心理模型：$\mathcal{M}^{*}$（真实情况）、$\mathcal{M}^{H}$ 和 $\mathcal{M}^{R}$（自我模型），以及 $\mathcal{M}^{H}_{r}$、$\mathcal{M}^{R}_{h}$（相互信念模型）。
• 将交互建模为模型通信（如解释、教学）或模型遵循（如遵从、对齐），基于信念更新机制。
• 引入任务模型 $\mathcal{M}^{*}$ 以表示真实联合任务规范，独立于个体信念。
• 支持动态信念更新，使各方能够纠正彼此对其任务模型的认知。
• 利用该框架分析了人机协同机器学习、人机交互、人机共居以及可解释AI领域的研究工作。
• 将信任作为调节模型更新决策的因素，区分人类对AI的信任与AI对人类输入的信任。

实验结果

研究问题

• RQ1 如何构建一个统一框架，以捕捉超越被动观察的多样化人机交互形式？
• RQ2 支撑人机交互的基本行为模式——模型通信与模型遵循——是什么？
• RQ3 当前的研究在多任务背景下为何无法有效支持长期、迭代的协作？
• RQ4 信任如何影响人机团队中的模型更新决策与行为遵从？
• RQ5 当人类与AI代理在知识和推理能力上存在差异时，计算理性发挥何种作用？

主要发现

• GHAI框架成功映射并统一了来自CHI、HRI、ICAPS、IJCAI、ICML和HCOMP等会议的广泛人机交互研究工作。
• 模型通信与模型遵循作为两种核心行为模式，由GHAI框架中的六种心理模型所支持。
• 现有文献缺乏对长期交互的支持，即过往协作结果无法影响未来的联合行为。
• 信任是一个关键但被严重忽视的因素：低信任可能导致对AI行为的误读，而高信任则可能引发过度依赖和错误。
• 即使知识共享，计算能力的差异仍可能导致决策分歧，凸显了对人类推理代理模型的必要性。
• 现有研究在建模双向信念更新方面存在局限，难以支持复杂多任务环境下的持续协作。