[論文レビュー] Is Face Recognition Sexist? No, Gendered Hairstyles and Biology Are

Vítor Albiero, Kevin W. Bowyer|arXiv (Cornell University)|Aug 16, 2020

Face recognition and analysis参考文献 18被引用数 4

ひとこと要約

本論文は、顔認識システムが女性に対して低い正確性を示す理由を調査し、性別に起因するヘアスタイルと顔の可変性の生物学的差異が主な原因であると特定した。制御されたデータセットとPCA分析を用いて、著者らは、長い髪による被覆が女性の誤って非一致とされる確率（FNR）を上昇させること、一方で女性に内在する顔の可変性が小さいことが誤って一致とされる確率（FMR）を上昇させることを示した。これは、バイアスが学習データやアルゴリズム由来だとする仮定に反する。

ABSTRACT

Recent news articles have accused face recognition of being "biased", "sexist" or "racist". There is consensus in the research literature that face recognition accuracy is lower for females, who often have both a higher false match rate and a higher false non-match rate. However, there is little published research aimed at identifying the cause of lower accuracy for females. For instance, the 2019 Face Recognition Vendor Test that documents lower female accuracy across a broad range of algorithms and datasets also lists "Analyze cause and effect" under the heading "What we did not do". We present the first experimental analysis to identify major causes of lower face recognition accuracy for females on datasets where previous research has observed this result. Controlling for equal amount of visible face in the test images reverses the apparent higher false non-match rate for females. Also, principal component analysis indicates that images of two different females are inherently more similar than of two different males, potentially accounting for a difference in false match rates.

研究の動機と目的

• 女性における顔認識正確性の低さの根本的要因を特定し、アルゴリズム的性差別という主張に反論すること。
• 性別に起因するヘアスタイルによる被覆が、女性の誤って非一致率（FNR）を上昇させることを調査すること。
• 男性と女性の顔の可変性における本質的な生物学的差異が、誤って一致率（FMR）に与える影響を検討すること。
• 最新の深層畳み込みニューラルネットワーク（CNN）マッチャーと公開済みデータセットを用いて、透明性があり再現可能な分析を提供すること。
• 訓練データの不均衡やアルゴリズム設計が、性別による正確性の差を生じさせる主な要因であるという仮定に反論すること。

提案手法

• 被覆の影響を分離するために、顔の可視領域が等しいデータセットを用いた制御実験を実施した。
• 主成分分析（PCA）を用いて、男性と女性の顔空間の内在的可変性を比較した。
• 結果が特定のアルゴリズムに依存しないことを保証するため、最新の深層CNNマッチャー（ArcFace）を適用した。
• MORPH、ノートルダム、VGGFace2を含む複数のデータセットで、なりすましスコアおよび真正スコアの分布を分析した。
• 被覆の影響を定量化するために、顔の可視割合と顔の差分ヒートマップを計算した。
• PCAの逆変換実験を実施し、男性の顔の可変性を女性の可変性に合わせて調整できるかを評価した。

実験結果

リサーチクエスチョン

• RQ1 女性の誤って非一致率（FNR）が高いのは、性別に起因するヘアスタイルによる顔の被覆が原因であるか？
• RQ2 男性と女性の顔の可変性における生物学的差異が、女性の誤って一致率（FMR）を上昇させる要因としてどの程度寄与しているか？
• RQ3 顔の可視領域を均等にすることで、誤って非一致率における女性の差異が解消されるか？
• RQ4 男性と女性のなりすましスコア分布の差は、顔の類似性の本質的差異に起因しているか？
• RQ5 訓練データとテストデータが性別にバランスされている場合でも、顔認識正確性における性別バイアスは継続するか？

主な発見

• テスト画像における可視顔領域を均等に制御した結果、女性の誤って非一致率（FNR）が逆転した。これは、長い髪による被覆が主要因であることを示唆している。
• PCA分析により、平均して2つの異なる女性の顔は、2つの異なる男性の顔よりも類似していることが判明し、これが女性の誤って一致率（FMR）の上昇を説明できる。
• 女性のなりすましスコア分布は、顔の可変性が小さいため、自然に高い類似度値に集中しており、標準的なマッチングアルゴリズムでは是正できない。
• 女性の画像数を減らしてデータサイズをバランスさせても、PCA曲線における女性の可変性は男性より低く保たれた。これは生物学的差異が根本的要因であることを確認する。
• 訓練データの不均衡やアルゴリズム設計が、性別による正確性の差の主な原因であるという証拠は得られなかった。
• 結果から、顔認識システム自体が本質的に性差別的であるとは言えず、観察された性別バイアスは、ヘアスタイルや顔貌の生物学的特徴といった現実の要因に起因していると示唆される。