[論文レビュー] An adversarial learning algorithm for mitigating gender bias in face recognition.

Prithviraj Dhar, Joshua Gleason+3 more|arXiv (Cornell University)|Jun 14, 2020

Face recognition and analysis参考文献 38被引用数 7

ひとこと要約

本稿では、深層特徴に暗黙的に埋め込まれた性別情報の最小化によって、深層顔認識における性別バイアスを低減する損失ベースの新規手法である敵対的性別デバイアス除去（AGD）を提案する。バイアス低減損失 $L_{br}$ を導入することで、2つの最先端のネットワークにおいて、女性の顔に対する認識精度を顕著に向上させつつ、顔認識の識別性能を維持することができる。

ABSTRACT

State-of-the-art face recognition networks implicitly encode gender information while being trained for identity classification. Gender is often viewed as an important face attribute to recognize humans. But, the expression of gender information in deep facial features appears to contribute to gender bias in face recognition, i.e. we find a significant difference in the recognition accuracy of DCNNs on male and female faces. We hypothesize that reducing implicitly encoded gender information will help reduce this gender bias. Therefore, we present a novel approach called `Adversarial Gender De-biasing (AGD)' to reduce the strength of gender information in face recognition features. We accomplish this by introducing a bias reducing classification loss $L_{br}$. We show that AGD significantly reduces bias, while achieving reasonable recognition performance. The results of our approach are presented on two state-of-the-art networks.

研究の動機と目的

• 深層顔認識システムにおける性別バイアスの問題に対処すること。具体的には、男性の顔と比較して女性の顔の認識精度が著しく低いという問題である。
• 深層顔特徴に暗黙的に埋め込まれた性別情報の低減が、このバイアスを緩和できるかどうかを調査すること。
• 識別性能に悪影響を及げない訓練時手法を開発すること。
• 提案手法の有効性を、最先端の顔認識アーキテクチャ上で評価すること。

提案手法

• ネットワークが深層顔特徴における性別情報の最小化を促進するように設計されたバイアス低減分類損失 $L_{br}$ を導入する。
• 標準的な識別分類損失と提案された $L_{br}$ を組み合わせた損失関数で顔認識ネットワークを訓練し、特徴のバイアス低減を実現する。
• 敵対的訓練の枠組みを用い、ネットワークが性別予測に対して予測可能性が低いが識別に有用な特徴を生成するように学習する。
• 一般化性と有効性を評価するために、2つの最先端の顔認識ネットワークで訓練中に本手法を適用する。
• バイアス低減損失が識別分類ヘッドとは独立して動作することを保証し、モジュラーな統合を可能にする。
• $L_{br}$ のハイパーパramータチューニングを通じて、識別精度と性別バイアス低減のトレードオフを最適化する。

実験結果

リサーチクエスチョン

• RQ1 深層顔特徴に暗黙的に埋め込まれた性別情報の低減が、顔認識における性別バイアスをどの程度低減できるか。
• RQ2 訓練時における損失ベースの手法が、再訓練やアーキテクチャ変更を要せず、顔埋め込みのバイアス低減を効果的に実現できるか。
• RQ3 提案されたAGD手法は、さまざまな最先端の顔認識アーキテクチャでどの程度の性能を示すか。
• RQ4 性別情報の低減が、男性と女性の顔の認識精度のバランスを改善するか。

主な発見

• 提案されたAGD手法は、深層顔認識における性別バイアスを顕著に低減し、女性の顔に対する認識精度を向上させた。
• 男性の顔の認識性能は高い水準を維持しており、バイアス低減が全体の精度に悪影響を及げていないことを示している。
• 2つの最先端のネットワークにおいて、顕著な性別バイアス低減と高い識別分類性能の両立を達成した。
• $L_{br}$ 損失の導入により、再訓練やアーキテクチャ変更を要せず、顔埋め込みにおける性別情報の強度が効果的に低減された。
• 訓練時における明示的な損失設計により、深層顔認識における性別バイアスは低減可能であると実証された。
• 異なる評価設定において、公平性指標が一貫して向上した。