[論文レビュー] Men Also Do Laundry: Multi-Attribute Bias Amplification

Dora Zhao, Jerone T. A. Andrews+1 more|arXiv (Cornell University)|Oct 21, 2022

Adversarial Robustness in Machine Learning被引用数 6

ひとこと要約

本稿では、単一属性のメトリクスが捉えられない属性間の相関を特定できる、マルチ属性バイアス拡大という新しいメトリクスを導入する。このメトリクスにより、モデルが複数属性の相関を利用し、バイアスを拡大していることが明らかになった。著者らは、単一属性に焦点を当てたバイアス緩和手法が、逆にマルチ属性バイアスを悪化させる可能性があることを示しており、公平性評価においてマルチ属性評価の必要性を強調している。

ABSTRACT

As computer vision systems become more widely deployed, there is increasing concern from both the research community and the public that these systems are not only reproducing but amplifying harmful social biases. The phenomenon of bias amplification, which is the focus of this work, refers to models amplifying inherent training set biases at test time. Existing metrics measure bias amplification with respect to single annotated attributes (e.g., $ exttt{computer}$). However, several visual datasets consist of images with multiple attribute annotations. We show models can learn to exploit correlations with respect to multiple attributes (e.g., {$ exttt{computer}$, $ exttt{keyboard}$}), which are not accounted for by current metrics. In addition, we show current metrics can give the erroneous impression that minimal or no bias amplification has occurred as they involve aggregating over positive and negative values. Further, these metrics lack a clear desired value, making them difficult to interpret. To address these shortcomings, we propose a new metric: Multi-Attribute Bias Amplification. We validate our proposed metric through an analysis of gender bias amplification on the COCO and imSitu datasets. Finally, we benchmark bias mitigation methods using our proposed metric, suggesting possible avenues for future bias mitigation

研究の動機と目的

• 既存のバイアス拡大メトリクスが単一属性に限定されており、データセット内のマルチ属性相関を捉えられていないという限界を是正すること。
• 正負のスコアが相殺されることで、バイアス拡大の重大な側面が隠蔽される可能性があるため、既存のメトリクスが誤解を招く解釈を生むことの説明。
• 複数属性の組み合わせを評価するバイアス拡大を測定する新しいメトリクスの提案。これにより、モデルの公平性に対するより正確で解釈可能な評価が可能になる。
• 新しいメトリクスを用いて既存のバイアス緩和手法をベンチマーク化。その結果、単一属性に特化した緩和法がマルチ属性バイアスを悪化させる可能性があることが判明。
• データセットのバランス調整の不十分さを強調し、合成データ拡張のマルチ属性バイアス対策としての可能性を提示。

提案手法

• Zhaoら（2017）、Wang & Russakovsky（2021）の先行研究に基づくバイアス拡大メトリクスを拡張し、単一属性だけでなく複数属性の組み合わせに対してもバイアス拡大を評価可能にする。
• 訓練データとテストデータにおけるグループ固有の属性比の差（絶対値を含む）を用いて拡大度を測定。正負の値が相殺されるのを避けるため。
• COCO、imSitu、CelebAで学習されたマルチラベル分類モデルを対象とし、性別表現と髪の色をグループラベルとして焦点を当てる。
• 複数属性が同時に存在する状況でのモデルのバイアス拡大・抑制の度合いを捉える、マルチ属性バイアス拡大スコアを導入。
• 通常はすべての属性組み合わせに等しい重みを付けるが、文脈に応じた再重み付けが可能な公平性評価フレームワークを提案。
• データバランス調整およびデータ修復（Agarwalら、2020）を含む緩和戦略を評価し、単一属性およびマルチ属性バイアス両方への影響を分析。

実験結果

リサーチクエスチョン

• RQ1 単一属性を分析するだけでは明らかでない、複数属性の組み合わせにおけるバイアス拡大の度合いはどの程度か？
• RQ2 正負のスコアが相殺されることで、既存のバイアス拡大メトリクスがマルチ属性バイアスを捉えられなくなる理由は何か？
• RQ3 単一属性を対象にしたバイアス緩和手法が、マルチ属性環境下で逆にバイアス拡大を増大させる可能性があるか？
• RQ4 完全にバランスの取れたデータセットであっても、マルチ属性バイアス拡大は検出可能か？ これは、データの不均衡を超えたモデルレベルのバイアスを示唆するか？
• RQ5 マルチ属性公平性を測定するにあたり、アノテートされた属性やプロキシグループラベルに依存することは、どのような限界をもたらすか？

主な発見

• マルチ属性評価では単一属性評価と比較して、モデルのバイアス拡大が顕著に高くなる。マルチ属性バイアスは、単一属性メトリクスによってしばしば低く抑えられている。
• 提案されたマルチ属性バイアス拡大メトリクスにより、バランスの取れたデータセットであっても、属性の組み合わせに応じたバイアス拡大が生じることが明らかになった。これは、データの不均衡を超えたモデルレベルのバイアスを示している。
• 単一属性バイアスを低減する緩和手法が、逆にマルチ属性バイアス拡大を増大させることが判明。公平性介入における重要なトレードオフを示している。
• このメトリクスにより、マルチ属性バイアス拡大がデータの不均衡に起因するとは限らず、個々の属性がバランスされていても継続することが確認された。
• 本研究では、マルチ属性バイアス拡大が二値でないグループ（例：CelebAにおける髪の色）に対しても検出可能であることが示され、公平性評価の範囲を二値性別に限らないものに拡大した。
• 著者らは、プロキシグループラベル（例：外見から推定される性別）に依存することで、有害なステレオタイプが固定化され、公平性評価が制限されることを発見。これは、現在のメトリクスの重要な倫理的限界を示している。