[论文解读] Why do drivers and automation disengage the automation? Results from a study among Tesla users

Sina Nordhoff, Joost de Winter|arXiv (Cornell University)|Jan 1, 2023

Human-Automation Interaction and Safety被引用 6

一句话总结

本研究通过与103名用户的半结构化访谈，调查了驾驶员与自动化系统为何会退出特斯拉的Autopilot和FSD Beta功能。研究提出一个三元模型，表明退出行为源于人类担忧（如预判故障、行为不自然、不适感）、系统监控（检测注意力不集中或违规行为）以及社会因素（乘客或道路使用者的反应），强调自动化退出不仅是技术故障问题，更是一种社会与心理现象。

ABSTRACT

A better understanding of automation disengagements can impact the safety and efficiency of automated systems. This study investigates the factors contributing to driver- and system-initiated disengagements by analyzing semi-structured interviews with 103 users of Tesla's Autopilot and FSD Beta. Through an examination of the data, main categories and sub-categories of disengagements were identified, which led to the development of a triadic model of automation disengagements. The model treats automation and human operators as equivalent agents. It suggests that human operators disengage automation when they anticipate failure, observe unnatural or unwanted automation behavior (e.g., erratic steering, running red lights), or believe the automation is not suited for certain environments (e.g., inclement weather, non-standard roads). Human operators' negative experiences, such as frustration, feelings of unsafety, and distrust, are also incorporated into the model, as these emotions can be triggered by (anticipated) automation behaviors. The automation, in turn, monitors human operators and may disengage itself if it detects insufficient vigilance or traffic rule violations. Moreover, human operators can be influenced by the reactions of passengers and other road users, leading them to disengage automation if they sense discomfort, anger, or embarrassment due to the system's actions. This research offers insights into the factors contributing to automation disengagements, highlighting not only the concerns of human operators but also the social aspects of the phenomenon. Furthermore, the findings provide information on potential edge cases of automated vehicle technology, which may help to enhance the safety and efficiency of such systems.

研究动机与目标

• 理解导致特斯拉部分自动化系统中驾驶员与系统主动退出的内在心理、行为与社会因素。
• 识别自动化系统超出其设计运行域的边缘情况，从而引发退出。
• 考察乘客及其他道路使用者的反应如何影响驾驶员决定退出自动化功能。
• 构建一个全面的退出行为模型，将人类操作员与自动化系统均视为系统中的主动参与者。
• 通过识别退出触发因素，为设计更安全、更可靠且社会可接受的自动化驾驶系统提供建议。

提出的方法

• 通过Zoom进行线上、半结构化、带音频与视频记录的访谈，对象为103名特斯拉Autopilot与FSD Beta用户。
• 使用在Qualtrics上标准化、按逻辑顺序排列的访谈问卷，以减少研究者偏见并确保一致性。
• 采用定性数据分析方法，识别重复出现的主题，进而发展出三元退出行为模型。
• 将退出原因分类为：操作员状态、系统行为、环境因素与社会影响。
• 整合人因工程学、信任理论与心智理论，以建模驾驶员、自动化系统与外部参与者之间的互动。
• 聚焦真实世界中用户的主观体验，而非仅依赖技术车辆数据。

实验结果

研究问题

• RQ1 驾驶员退出特斯拉Autopilot与FSD Beta系统的主要原因是什么？
• RQ2 自动化系统自身在何种条件下会主动触发退出？
• RQ3 乘客及其他道路使用者的反应在哪些方面影响驾驶员决定退出自动化功能？
• RQ4 对自动化行为的感知（如异常转向、误判刹车）如何影响驾驶员的信任度与退出决策？
• RQ5 环境与基础设施因素（如道路标线不清、恶劣天气）在退出决策中起到何种作用？

主要发现

• 驾驶员常因感知或观察到的不自然行为（如异常转向、误判刹车、意外变道）而退出自动化功能。
• 当自动化系统通过方向盘扭矩传感器检测到驾驶员注意力不集中或违反交通规则时，会主动触发退出。
• 乘客因自动化行为感到不适或愤怒，会显著影响驾驶员决定退出，表明自动化信任存在社会维度。
• 驾驶员在复杂环境（如恶劣天气、施工区域或非标准道路）中会预判自动化性能不足，从而提前退出。
• 实际或预想中的自动化故障会引发挫败感、恐惧与不信任等负面情绪，进而促成退出决策。
• 本研究识别出此前未充分报告的安全关键行为，如方向盘转向对向来车方向，作为退出的关键触发因素，凸显了在设计与监控方面亟需改进。