[論文レビュー] Collaborative human-AI trust (CHAI-T): A process framework for active management of trust in human-AI collaboration

Melanie J. McGrath, Andreas Duenser+2 more|arXiv (Cornell University)|Apr 2, 2024

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

本論文は、信頼 antecedents をチームプロセスとパフォーマンスフェーズと統合することで、協調的な人間-AIチームにおける信頼を積極的に管理するプロセスフレームワーク CHAI-T を提示する。

ABSTRACT

Collaborative human-AI (HAI) teaming combines the unique skills and capabilities of humans and machines in sustained teaming interactions leveraging the strengths of each. In tasks involving regular exposure to novelty and uncertainty, collaboration between adaptive, creative humans and powerful, precise artificial intelligence (AI) promises new solutions and efficiencies. User trust is essential to creating and maintaining these collaborative relationships. Established models of trust in traditional forms of AI typically recognize the contribution of three primary categories of trust antecedents: characteristics of the human user, characteristics of the technology, and environmental factors. The emergence of HAI teams, however, requires an understanding of human trust that accounts for the specificity of task contexts and goals, integrates processes of interaction, and captures how trust evolves in a teaming environment over time. Drawing on both the psychological and computer science literature, the process framework of trust in collaborative HAI teams (CHAI-T) presented in this paper adopts the tripartite structure of antecedents established by earlier models, while incorporating team processes and performance phases to capture the dynamism inherent to trust in teaming contexts. These features enable active management of trust in collaborative AI systems, with practical implications for the design and deployment of collaborative HAI teams.

研究の動機と目的

• 新規性と不確実性の中で、協調的な人間-AIチーム（HAI）における信頼を理解する必要性を動機づける。
• 従来の先行要因を拡張し、タスクコンテキスト、目標、チーミングダイナミクスを含む信頼フレームワークを提案する。
• 信頼の進化をモデル化するために、人間、技術、環境要因をチームプロセスとパフォーマンスフェーズと統合する。
• アクティブな信頼管理を備えた協調的なHAIシステムの設計と展開の実用的ガイダンスを実現する。

提案手法

• 従来の信頼モデルからの三分割先行要因構造（人間、技術、環境）を採用する。
• 相互作用ダイナミクスを捉えるためにチームプロセスを組み込む。
• チーミングコンテキストで信頼が時間とともに進化する様子を反映するパフォーマンスフェーズを追加する。
• 心理学と計算機科学の理論を統合してプロセスフレームワークを支える。
• 協調的HAIチームの設計と展開への含意を概説する。

実験結果

リサーチクエスチョン

• RQ1 従来の先行要因を超えて、タスクコンテキストと目標を考慮に入れた人間-AIチームの信頼をどのようにモデル化できるか？
• RQ2 チームプロセスとパフォーマンスフェーズは、HAI協働における信頼の進化と管理にどのように影響するか？
• RQ3 CHAI-T から導かれる協調型AIシステムの設計と展開の実践的戦略は何か？
• RQ4 主要な先行要因（人間、技術、環境）は何か、そしてそれらはチーミング文脈でどのように相互作用するか？

主な発見

• 三分割の先行要因構造（人間、技術、環境）はHAIにおける信頼の基盤であり続けるが、タスクコンテキストと目標を考慮するよう拡張する必要がある。
• チームプロセスとパフォーマンスフェーズは、進行中のHAI協働における信頼のダイナミクスを捉える上で重要である。
• CHAI-T は信頼の積極的な管理を可能にし、協調型AIシステムの設計・展開・運用に含意をもたらす。
• このフレームワークは、チームが相互作用し、時間とともにパフォーマンスを発揮するにつれて信頼のダイナミズムを強調する。