[論文レビュー] A Mental-Model Centric Landscape of Human-AI Symbiosis

Zahra Zahedi, Sarath Sreedharan+1 more|arXiv (Cornell University)|Feb 18, 2022

Cognitive Science and Mapping被引用数 16

ひとこと要約

本稿は、六つの異なる認識モデル—真実、自己モデル、相互信念モデル—をモデル化する一般化された人間中心の相互作用（GHAI）フレームワークを導入し、人間-AIの共生の包括的理解を可能にする。GHAIは、人間-AI相互作用をモデル通信またはモデル従属行動として分類することで、多様な研究分野における構造的パターンを明らかにし、縦断的相互作用、信頼モデル、計算的合理性の分野における重要なギャップを特定する。

ABSTRACT

There has been significant recent interest in developing AI agents capable of effectively interacting and teaming with humans. While each of these works try to tackle a problem quite central to the problem of human-AI interaction, they tend to rely on myopic formulations that obscure the possible inter-relatedness and complementarity of many of these works. The human-aware AI framework was a recent effort to provide a unified account for human-AI interaction by casting them in terms of their relationship to various mental models. Unfortunately, the current accounts of human-aware AI are insufficient to explain the landscape of the work doing in the space of human-AI interaction due to their focus on limited settings. In this paper, we aim to correct this shortcoming by introducing a significantly general version of human-aware AI interaction scheme, called generalized human-aware interaction (GHAI), that talks about (mental) models of six types. Through this paper, we will see how this new framework allows us to capture the various works done in the space of human-AI interaction and identify the fundamental behavioral patterns supported by these works. We will also use this framework to identify potential gaps in the current literature and suggest future research directions to address these shortcomings.

研究の動機と目的

• 受動的観察をはるかに超える多様な相互作用タイプを捉える包括的フレームワークの欠如に対処すること。
• 真実と相互信念表現を含む六つの異なる認識モデルを導入することで、人間中心AIフレームワークを拡張すること。
• 多様な人間-AI相互作用研究に共通する基本的行動パターン—モデル通信とモデル従属—を同定すること。
• 人間-AIチームにおける縦断的相互作用、信頼ダイナミクス、計算的合理性の分野における重要な研究ギャップを明らかにすること。
• 現在の文献をGHAIフレームワークにマッピングし、より適応的で信頼を意識した、持続的な協働を促進する研究方向を示唆することで、今後の研究を導くこと。

提案手法

• 六つの異なる認識モデル—$\mathcal{M}^{*}$（真実）、$\mathcal{M}^{H}$ と $\mathcal{M}^{R}$（自己モデル）、$\mathcal{M}^{H}_{r}$ と $\mathcal{M}^{R}_{h}$（相互信念モデル）—を有する一般化された人間中心の相互作用（GHAI）フレームワークを提案する。
• 信念の更新に基づき、モデル通信（例：説明、教育）またはモデル従属（例：従順、整合）として相互作用をモデル化する。
• 個々の信念とは独立して、真の共同タスク仕様を表すタスクモデル $\mathcal{M}^{*}$ を導入する。
• エージェントが互いのタスクモデルに関する認識を補正できる動的信念更新を可能にする。
• 人間が参加する機械学習、人間-ロボット協働、人間-AI共存、説明可能なAI分野からの研究をフレームワークを用いて分析する。
• 信頼をモデル更新意思決定における調整要因として統合し、人間のAIに対する信頼とAIの人間入力に対する信頼を区別する。

実験結果

リサーチクエスチョン

• RQ1 包括的フレームワークは、受動的観察をはるかに超える多様な人間-AI相互作用の形態をどのように捉えることができるか？
• RQ2 人間-AI相互作用の背後にある基本的行動パターン—モデル通信とモデル従属—とは何か？
• RQ3 現在の研究は、複数のタスクにわたる繰り返しで持続的な協働を支援する点で、どのように不十分であるか？
• RQ4 信頼は人間-AIチームにおけるモデル更新意思決定と従順性にどのように影響を与えるか？
• RQ5 人間とAIエージェントの間で知識や推論能力に差がある場合、計算的合理性は果たしてどのような役割を果たすか？

主な発見

• GHAIフレームワークは、CHI、HRI、ICAPS、IJCAI、ICML、HCOMPからの多様な人間-AI相互作用研究を的確にマッピングし、統一するのに成功した。
• モデル通信とモデル従属は、GHAIフレームワークにおける六つの認識モデルによって実現される二大行動パターンとして浮き彫りになった。
• 現在の文献は、過去の協働成果物が将来の共同行動に影響を与える縦断的相互作用を十分にサポートしていない。
• 信頼は重要だが、まだ十分にモデル化されていない要因である：低信頼はAI行動の誤解を引き起こす可能性があり、高信頼は過信と誤りを引き起こす可能性がある。
• 共有知識があるにもかかわらず、計算能力の差異は異なる意思決定を引き起こす可能性があり、人間の推論の代理モデルの導入が不可欠であることを示している。
• 特に複雑で多タスクな状況において、持続的な協働を支援する双方向の信念更新をモデル化する点で、既存の研究は限界に達している。