[論文レビュー] Modeling and Predicting Trust Dynamics in Human-Robot Teaming: A Bayesian Inference Approach

Yaohui Guo, X. Jessie Yang|arXiv (Cornell University)|Jul 26, 2020

Human-Automation Interaction and Safety参考文献 33被引用数 7

ひとこと要約

本論文は、アンケートに依存せずに、パフォーマンス履歴に基づいて人間のロボットに対する信頼を動的に推定するベイジアン推論ベースの信頼予測モデルを提案する。モデルは信頼をベータ分布で表現し、ベイジアン更新によりパラメータを学習し、RMSE 0.072を達成しており、既存の手法を著しく上回っている。また、合理的なベイジアン意思決定者、揺動型、信じないタイプの3つの異なる信頼ダイナミクスを捉えている。

ABSTRACT

Trust in automation, or more recently trust in autonomy, has received extensive research attention in the past two decades. The majority of prior literature adopted a "snapshot" view of trust and typically evaluated trust through questionnaires administered at the end of an experiment. This "snapshot" view, however, does not acknowledge that trust is a time-variant variable that can strengthen or decay over time. To fill the research gap, the present study aims to model trust dynamics when a human interacts with a robotic agent over time. The underlying premise of the study is that by interacting with a robotic agent and observing its performance over time, a rational human agent will update his/her trust in the robotic agent accordingly. Based on this premise, we develop a personalized trust prediction model based on Beta distribution and learn its parameters using Bayesian inference. Our proposed model adheres to three major properties of trust dynamics reported in prior empirical studies. We tested the proposed method using an existing dataset involving 39 human participants interacting with four drones in a simulated surveillance mission. The proposed method obtained a Root Mean Square Error (RMSE) of 0.072, significantly outperforming existing prediction methods. Moreover, we identified three distinctive types of trust dynamics, the Bayesian decision maker, the oscillator, and the disbeliever, respectively. This prediction model can be used for the design of individualized and adaptive technologies.

研究の動機と目的

• 人間-ロボットインタラクション研究における静的でスナップショットベースの信頼測定の限界を解決すること。
• 繰り返しの相互作用によって影響を受ける動的で時間経過に伴う変化を示す変数として信頼をモデル化すること。
• 定期的な人間の報告や生理的データ収集を必要としない、パーソナライズされ、リアルタイムの信頼予測モデルを開発すること。
• 信頼ダイナミクスの経験的に観察された性質（持続性、否定的出来事への非対称的な感受性、時間経過による安定化）を反映すること。
• ロボットのパフォーマンスに応じた人間の信頼行動の異なるタイプを特定・特徴づけること。

提案手法

• ロボットのパフォーマンス履歴に基づくベイジアン推論によるパラメータ更新で、信頼をベータ分布でモデル化する。
• 4台のドローンと対話した39名の参加者から得られたトレーニングデータセットから、事前分布のパラメータを学習する。
• 各相互作用ステップで、成功／失敗という結果を証拠として、信頼分布を更新する。
• 条件付き独立の原則を適用し、信頼の進化が過去の信頼と現在のパフォーマンスにのみ依存すると仮定する。
• 予測誤差と平均対数信頼を特徴量として用い、クラスタリングにより3つの明確な行動タイプを同定する。
• 信頼ダイナミクスの経験的に妥当な3つの性質をモデル構造に組み込むことで、一般化可能性と解釈可能性を確保する。

実験結果

リサーチクエスチョン

• RQ1 ロボットに対する信頼を静的スナップショットではなく、動的プロセスとしてどのようにモデル化できるか？
• RQ2 繰り返しの人間-ロボット相互作用における人間の信頼の進化の主要な行動パターンは何か？
• RQ3 パフォーマンス履歴のみを用い、人間からの入力を一切必要としないベイジアン信頼モデルが、リアルタイムで信頼レベルを正確に予測できるか？
• RQ4 異なる個人は信頼ダイナミクスにおいてどのように異なるのか？ そして、それらは体系的に分類可能か？
• RQ5 本モデルは、精度と一般化可能性の観点で、既存の信頼予測手法をどの程度上回るか？

主な発見

• 提案されたベイジアン信頼モデルは、テストデータセットで決定係数（RMSE）0.072を達成しており、Lee & See（1992）やXu et al.（2015）といった既存のモデルを著しく上回っている。
• モデルは、合理的なベイジアン意思決定者、変動する信頼を示す揺動型、持続的に低い信頼を示す信じないタイプの3つの異なる信頼ダイナミクスを的確に捉えている。
• モデルの構造は、信頼の3つの経験的に妥当な性質を反映している：過去の信頼の持続性、否定的経験の強い影響、時間経過による安定化。
• 生理的データ収集を不要としており、実用的応用における実装可能性と倫理的妥当性を高めている。
• 予測誤差と平均対数信頼に基づくクラスタリング解析により、明確な行動グループが明らかになり、信頼形成における個人差が示された。
• モデルはリアルタイムでパーソナライズされた信頼予測を可能とし、信頼の変化に応じて適応するロボットシステムの設計を支援する。