[論文レビュー] Bias Behind the Wheel: Fairness Testing of Autonomous Driving Systems

Xinyue Li, Zhenpeng Chen+4 more|arXiv (Cornell University)|Aug 5, 2023

Traffic and Road SafetyEngineering被引用数 3

ひとこと要約

本研究は、実世界のデータセットを用い、手動でラベル付けされた性別、年齢、肌色のラベルをもとに、8種類の最先端の歩行者検出器のデモグラフィックグループごとの公平性を初めて包括的に評価した。検出精度の顕著な格差が判明した。子供の検出率は19.67%低く、肌色が濃い人の検出率は7.52%低く、低輝度および低コントラスト条件下で悪化する傾向にあり、自動運転システムにおける深刻なバイアスを示している。

ABSTRACT

This paper conducts fairness testing of automated pedestrian detection, a crucial but under-explored issue in autonomous driving systems. We evaluate eight state-of-the-art deep learning-based pedestrian detectors across demographic groups on large-scale real-world datasets. To enable thorough fairness testing, we provide extensive annotations for the datasets, resulting in 8,311 images with 16,070 gender labels, 20,115 age labels, and 3,513 skin tone labels. Our findings reveal significant fairness issues, particularly related to age. The proportion of undetected children is 20.14% higher compared to adults. Furthermore, we explore how various driving scenarios affect the fairness of pedestrian detectors. We find that pedestrian detectors demonstrate significant gender biases during night time, potentially exacerbating the prevalent societal issue of female safety concerns during nighttime out. Moreover, we observe that pedestrian detectors can demonstrate both enhanced fairness and superior performance under specific driving conditions, which challenges the fairness-performance trade-off theory widely acknowledged in the fairness literature. We publicly release the code, data, and results to support future research on fairness in autonomous driving.

研究の動機と目的

• 性別、年齢、肌色などのデモグラフィックグループごとの最先端の歩行者検出器におけるグループ公平性の問題を調査すること。
• 自動運転のテストに用いられる既存の実世界データセットにおけるデモグラフィックデータのラベル付け不足を解消すること。
• 一般的な走行シナリオ（例：低輝度、低コントラスト）が歩行者検出における公平性に与える影響を評価すること。
• 今後の公平性研究を支援するため、公開可能な大規模なラベル付きデータセットとコードを提供すること。
• 研究者、エンジニア、政策立案者に、現在の自動運転車両システムにおける深刻なバイアスリスクを啓発すること。

提案手法

• 性別（16,070）、年齢（20,115）、肌色（3,513）のラベルを含む、4つの広く使われているデータセットから8,311枚の実世界画像を手動でラベル付けした。
• 公平性指標（統計的差分の不平等度（SPD）と同等機会差分（EOD））を用いて、8つのディープラーニングベースの歩行者検出器を評価した。
• 既存の文献に整合するよう、主にミス率を性能指標として用い、標準的な歩行者検出評価を実施した。
• 日中と夜間などの異なる照明およびコントラスト条件下でのシナリオ別分析を実施し、公平性の低下を評価した。
• ミス率と整合性が高く、現在の検出研究と整合するため、主にEODを公平性指標として採用した。
• 再現性を確保し、今後の研究を可能にするために、コード、データ、結果を含む包括的なレプリケーションパッケージを公開した。

Figure 1. RQ1: Miss rates for female and male pedestrians in each dataset. Statistically significant gender unfairness (i.e., miss rate difference) is indicated by labeled miss rate values. We find that pedestrian detectors tend to have poorer performance in detecting females compared to males withi

実験結果

リサーチクエスチョン

• RQ1 最先端の歩行者検出器は、性別、年齢、肌色などの異なるデモグラフィックグループにおいて、どのように公平性の観点から性能を発揮するか？
• RQ2 照明およびコントラストの条件が、歩行者検出における公平性格差をどの程度悪化させるか？
• RQ3 実世界の走行シナリオにおいて、年齢、肌色、性別ごとの検出性能の違いはどのように変動するか？
• RQ4 現在の歩行者検出システムにおけるバイアスの主な要因は何か、特に子供や肌色が濃い人々に対して顕著であるか？
• RQ5 実世界データセットにデモグラフィックラベルを組み込むことで、自動運転システムにおけるより厳密な公平性テストが可能になるか？

主な発見

• 全データセットを通じて、子供の検出されない割合は大人に比べて19.67%高い。
• 肌色が濃い人の検出されない割合は、肌色が薄い人よりも7.52%高い。これは顕著な肌色バイアスを示している。
• 性別による検出格差は最小限であり、男性と女性の検出されない割合の差はわずか1.1%にとどまる。
• 低輝度および低コントラスト条件下では、肌色が濃い人の公平性格差が拡大し、日中と夜間のシナリオで検出されない割合の差が7.14%から9.86%に拡大した。
• 1段階検出器では、肌色が濃い歩行者に対して特に強いバイアスを示しており、アーキテクチャ固有の公平性課題を示唆している。
• 本研究では、EODやSPDといった公平性指標が歩行者検出に適用された際、一貫した結果を示した。これは、EODをこの文脈における公平性評価に用いることの妥当性を裏付けた。

Figure 2. RQ1: Miss rates for children and adults in each dataset. Statistically significant age unfairness (i.e., miss rate difference) is indicated by labeled miss rate values. The miss rate of children is consistently higher than that of adults for all datasets and all detectors.