[论文解读] Modeling Dispositional and Initial learned Trust in Automated Vehicles with Predictability and Explainability

Jackie Ayoub, X. Jessie Yang+1 more|arXiv (Cornell University)|Dec 25, 2020

Human-Automation Interaction and Safety参考文献 42被引用 4

一句话总结

本研究基于1,175名参与者的调查数据，采用XGBoost模型对自动驾驶汽车的倾向性信任和初始习得信任进行建模，提取了23个与信任相关的特征。通过集成SHAP方法实现可解释性，该方法在同时捕捉信任动态的同时，实现了高预测准确率和模型可解释性，优于传统回归模型和黑箱模型。

ABSTRACT

Technological advances in the automotive industry are bringing automated driving closer to road use. However, one of the most important factors affecting public acceptance of automated vehicles (AVs) is the public's trust in AVs. Many factors can influence people's trust, including perception of risks and benefits, feelings, and knowledge of AVs. This study aims to use these factors to predict people's dispositional and initial learned trust in AVs using a survey study conducted with 1175 participants. For each participant, 23 features were extracted from the survey questions to capture his or her knowledge, perception, experience, behavioral assessment, and feelings about AVs. These features were then used as input to train an eXtreme Gradient Boosting (XGBoost) model to predict trust in AVs. With the help of SHapley Additive exPlanations (SHAP), we were able to interpret the trust predictions of XGBoost to further improve the explainability of the XGBoost model. Compared to traditional regression models and black-box machine learning models, our findings show that this approach was powerful in providing a high level of explainability and predictability of trust in AVs, simultaneously.

研究动机与目标

• 理解影响公众对自动驾驶汽车（AVs）信任的因素，特别是倾向性信任和初始习得信任。
• 识别预测AVs信任度的关键心理、感知和经验特征。
• 基于真实世界调查数据，开发一种高精度、可解释的机器学习模型，用于AVs的信任预测。
• 通过集成SHapley加法解释（SHAP）提升模型透明度，以解释XGBoost预测结果。

提出的方法

• 通过包含1,175名参与者的调查，收集了关于AVs的知识、感知、经验、行为评估及情感反应的数据。
• 从调查回答中提取了23个特征，以代表风险感知、熟悉度和情感效价等与信任相关的维度。
• 训练了极端梯度提升（XGBoost）模型，基于23个输入特征预测信任水平。
• 应用SHapley加法解释（SHAP）以解释XGBoost模型的预测结果，识别各特征对个体信任得分的贡献。
• 评估模型在预测准确率和可解释性两方面的表现，并与传统回归模型和黑箱模型进行对比。

实验结果

研究问题

• RQ1 哪些心理和感知特征对自动驾驶汽车的倾向性信任和初始习得信任具有最强预测力？
• RQ2 基于调查提取的特征，机器学习模型在预测AVs信任度方面能达到多高的准确率？
• RQ3 SHAP可解释性在多大程度上提升了AV场景下信任预测模型的透明度？
• RQ4 与传统回归模型和黑箱模型相比，采用SHAP解释的XGBoost模型在信任预测方面表现如何？

主要发现

• 采用SHAP解释的XGBoost模型在建模自动驾驶汽车的倾向性信任和初始习得信任方面均实现了高预测准确率。
• 可预测性和系统可解释性是影响信任预测的最重要特征之一。
• SHAP分析表明，情感反应和感知风险对个体信任得分有显著贡献。
• 该模型在预测性能上优于传统回归模型，同时保持了高水平的可解释性。
• SHAP的集成使得信任预测结果能够提供清晰的特征级解释，显著增强了模型透明度。
• 该方法成功平衡了高预测能力与可操作的可解释性，为自动驾驶汽车设计提供了实用洞见。