[論文レビュー] Modeling Dispositional and Initial learned Trust in Automated Vehicles with Predictability and Explainability

Jackie Ayoub, X. Jessie Yang+1 more|arXiv (Cornell University)|Dec 25, 2020

Human-Automation Interaction and Safety参考文献 42被引用数 4

ひとこと要約

本研究では、1,175名の参加者からのアンケートデータを用いて、自動運転車における気質的および初期学習済み信頼性をモデル化し、23の信頼関連特徴を抽出してXGBoostモデルを訓練した。SHAPを統合することで解釈可能性を確保したアプローチは、予測精度とモデルの解釈性の両面で優れた結果を達成し、従来の回帰モデルやブラックボックスモデルと比較して、透明性を保ちながら信頼のダイナミクスを同時に捉えることに成功した。

ABSTRACT

Technological advances in the automotive industry are bringing automated driving closer to road use. However, one of the most important factors affecting public acceptance of automated vehicles (AVs) is the public's trust in AVs. Many factors can influence people's trust, including perception of risks and benefits, feelings, and knowledge of AVs. This study aims to use these factors to predict people's dispositional and initial learned trust in AVs using a survey study conducted with 1175 participants. For each participant, 23 features were extracted from the survey questions to capture his or her knowledge, perception, experience, behavioral assessment, and feelings about AVs. These features were then used as input to train an eXtreme Gradient Boosting (XGBoost) model to predict trust in AVs. With the help of SHapley Additive exPlanations (SHAP), we were able to interpret the trust predictions of XGBoost to further improve the explainability of the XGBoost model. Compared to traditional regression models and black-box machine learning models, our findings show that this approach was powerful in providing a high level of explainability and predictability of trust in AVs, simultaneously.

研究の動機と目的

• 自動運転車（AV）に対する一般大衆の信頼に影響を与える要因、特に気質的および初期学習済み信頼性の要因を理解すること。
• AVにおける信頼を予測するための重要な心理的・知覚的・経験的特徴を同定すること。
• 実世界のアンケートデータを用いて、高精度で解釈可能な機械学習モデルを構築し、AVにおける信頼予測を行うこと。
• SHapley Additive exPlanations（SHAP）を統合することで、XGBoostの予測結果の解釈性を高め、モデルの透明性を向上させること。

提案手法

• 1,175名の参加者を対象に実施したアンケートから、AVに関する知識、知覚、経験、行動的評価、感情的反応のデータを収集した。
• リスク認識、なじみ、感情的価値など、信頼関連の次元を表す23の特徴をアンケート回答から抽出した。
• eXtreme Gradient Boosting（XGBoost）モデルを訓練し、23の入力特徴に基づいて信頼度を予測するようにした。
• SHapley Additive exPlanations（SHAP）を適用して、XGBoostモデルの予測結果を解釈し、個々の信頼スコアに寄与する特徴を特定した。
• 予測精度と解釈可能性の両面でモデルのパフォーマンスを評価し、従来の回帰モデルおよびブラックボックスモデルと比較した。

実験結果

リサーチクエスチョン

• RQ1 どの心理的および知覚的特徴が、自動運転車における気質的および初期学習済み信頼性を最も強く予測するか？
• RQ2 アンケートから得た特徴を用いた機械学習モデルは、自動運転車における信頼性をどの程度正確に予測できるか？
• RQ3 SHAPに基づく解釈性は、AV環境における信頼予測モデルの透明性をどの程度向上できるか？
• RQ4 SHAPによる解釈を統合したXGBoostモデルは、従来の回帰モデルおよびブラックボックスモデルと比較して、信頼予測においてどのように異なるか？

主な発見

• SHAPによる解釈を統合したXGBoostモデルは、自動運転車における気質的および初期学習済み信頼性の両方を高精度にモデル化した。
• 予測の形成において、予測可能性の知覚とシステムの説明可能性が最も影響力の高い特徴であった。
• SHAP分析により、感情的反応と認識されたリスクが、個々の信頼スコアに顕著に寄与することが明らかになった。
• 予測性能において、従来の回帰モデルを上回った一方で、高い解釈性を維持した。
• SHAPの統合により、信頼予測の特徴レベルでの明確な説明が可能となり、モデルの透明性が向上した。
• 本アプローチは、高い予測力と実用的な解釈可能性の両立に成功し、AV設計における実践的インサイトを提供した。