[論文レビュー] Why do drivers and automation disengage the automation? Results from a study among Tesla users

Sina Nordhoff, Joost de Winter|arXiv (Cornell University)|Jan 1, 2023

Human-Automation Interaction and Safety被引用数 6

ひとこと要約

本研究では、103名のユーザーを対象に半構造化インタビューを実施し、ドライバーや自動運転システムがなぜテスラのアテューピロットおよびFSDベータを解除するかを調査した。本研究は、ドライバーの懸念（故障の予期、不自然な動作、不快感）、システムの監視（注意の欠如やルール違反の検出）、社会的要因（乗客や他の道路利用者の反応）の3者関係を示す三辺形モデルを提唱し、自動運転の解除が技術的障害を超えた社会的・心理的現象であることを強調している。

ABSTRACT

A better understanding of automation disengagements can impact the safety and efficiency of automated systems. This study investigates the factors contributing to driver- and system-initiated disengagements by analyzing semi-structured interviews with 103 users of Tesla's Autopilot and FSD Beta. Through an examination of the data, main categories and sub-categories of disengagements were identified, which led to the development of a triadic model of automation disengagements. The model treats automation and human operators as equivalent agents. It suggests that human operators disengage automation when they anticipate failure, observe unnatural or unwanted automation behavior (e.g., erratic steering, running red lights), or believe the automation is not suited for certain environments (e.g., inclement weather, non-standard roads). Human operators' negative experiences, such as frustration, feelings of unsafety, and distrust, are also incorporated into the model, as these emotions can be triggered by (anticipated) automation behaviors. The automation, in turn, monitors human operators and may disengage itself if it detects insufficient vigilance or traffic rule violations. Moreover, human operators can be influenced by the reactions of passengers and other road users, leading them to disengage automation if they sense discomfort, anger, or embarrassment due to the system's actions. This research offers insights into the factors contributing to automation disengagements, highlighting not only the concerns of human operators but also the social aspects of the phenomenon. Furthermore, the findings provide information on potential edge cases of automated vehicle technology, which may help to enhance the safety and efficiency of such systems.

研究の動機と目的

• テスラの部分自動化システムにおけるドライバー主導およびシステム主導の解除に至る心理的・行動的・社会的要因を理解すること。
• 自動運転の運用設計ドメインを超えるエッジケースを同定し、それが解除を引き起こす理由を明らかにすること。
• 乗客や他の道路利用者の反応が、ドライバーの自動運転解除意思決定にどのように影響するかを検討すること。
• ドライバーと自動運転システムを両方ともシステム内での能動的主体とみなした、包括的な解除モデルの構築。
• 解除のトリガーを是正することで、より安全で信頼性が高く、社会的に受け入れられる自動運転車の設計を支援すること。

提案手法

• Zoomを用いて、103名のテスラのアテューピロットおよびFSDベータユーザーに対して、音声および動画記録付きのオンライン半構造的インタビューを実施した。
• 研究者のバイアスを最小限に抑えるために、Qualtrics上で論理的順序で整えられた標準化されたインタビュープロトコルを採用した。
• 定性的データ分析を用いて繰り返し現れるテーマを特定し、解除の三辺形モデルの構築に至った。
• 解除の理由をドライバーの状態、システムの行動、環境要因、社会的要因に分類した。
• ヒューマンファクタースタイル、信頼理論、マインド理論の知見を統合し、ドライバー、自動運転システム、外部エージェント間の相互作用をモデル化した。
• 技術的車両データに依存するのではなく、現実世界における主観的なユーザー体験に焦点を当てた。

実験結果

リサーチクエスチョン

• RQ1 ドライバーがなぜテスラのアテューピロットおよびFSDベータを解除するのか、その主な理由は何か？
• RQ2 自動運転自体がどのようにして解除を引き起こし、どのような条件下でそうなるのか？
• RQ3 乗客や他の道路利用者の反応は、ドライバーの自動運転解除意思決定にどのような形で影響を与えるか？
• RQ4 自動運転の動作（例：不規則なステアリング、誤ったブレーキング）に対する認識が、ドライバーの信頼と解除意思決定にどのように影響するか？
• RQ5 環境的・インfra構造的要因（例：道路マークの不良、天候）は、解除意思決定にどのような役割を果たすか？

主な発見

• ドライバーは、不自然な動作（不規則なステアリング、誤ったブレーキング、予期しないレーン変更）を認識または観察した場合に、頻繁に自動運転を解除する。
• システム主導の解除は、ステアリングホイルのトルクセンサーによってドライバーの注意欠如や交通ルール違反が検出された場合に発生する。
• 自動運転の動作に起因する乗客の不快感や怒りが、ドライバーが自動運転を解除する意思決定に強く影響しており、自動運転への信頼に社会的側面が関与していることが示唆される。
• ドライバーは、悪天候、工事区域、非標準的な道路など、自動運転の性能が不十分と感じられる困難な環境において、事前に解除を予測する。
• 実際の故障や予期される自動運転の失敗に起因する否定的感情（イライラ、恐怖、不信）が、解除意思決定に寄与している。
• 本研究では、これまで報告が少なかった安全上の重要な行動、例えば対向車線へのステアリング操作といった、解除の主なトリガーを同定し、設計および監視の改善が求められることを示している。