[論文レビュー] Fair Mixup: Fairness via Interpolation

Ching-Yao Chuang, Youssef Mroueh|arXiv (Cornell University)|Mar 11, 2021

Ethics and Social Impacts of AI参考文献 27被引用数 11

ひとこと要約

本稿では、潜在空間内での感受性グループ間の補間パスに沿ってモデルを正則化することにより、機械学習における公平性一般化を向上させるデータ拡張技術であるFair Mixupを提案する。Manifold Mixupを活用して意味的に意味のある補間を実現することで、これらのパスに沿ったモデル予測が滑らかになるように保証され、表計算、視覚、NLPのベンチマークにおいて、デモグラフィックパリティおよび等しいオッズの一般化が著しく向上する。

ABSTRACT

Training classifiers under fairness constraints such as group fairness, regularizes the disparities of predictions between the groups. Nevertheless, even though the constraints are satisfied during training, they might not generalize at evaluation time. To improve the generalizability of fair classifiers, we propose fair mixup, a new data augmentation strategy for imposing the fairness constraint. In particular, we show that fairness can be achieved by regularizing the models on paths of interpolated samples between the groups. We use mixup, a powerful data augmentation strategy to generate these interpolates. We analyze fair mixup and empirically show that it ensures a better generalization for both accuracy and fairness measurement in tabular, vision, and language benchmarks.

研究の動機と目的

• 訓練時には満たされるが評価時には失敗するグループ公平性指標の一般化ギャップを是正すること。
• 訓練データを超えた公平性制約（例：デモグラフィックパリティ（DP）および等しいオッズ（EO））の強靭性と一般化可能性を向上させること。
• 補間されたグループ分布の間で予測が滑らかに変化するように、モデルが感受性属性に対して不変であるように、暗黙の正則化を施すデータ拡張戦略を開発すること。
• 潜在空間内補間からの構造的事前知識を活用することで、公平性正則化とモデル一般化のギャップを埋めること。
• 理論的裏付けがあり、スケーラブルかつモデルに依存しない方法を提供し、多様なデータモダリティにおける公平性一般化を向上させること。

提案手法

• Manifold Mixupを用いて、潜在特徴空間内で2つの感受性グループ（例：男性／女性、ブラック／アジア系）間の補間サンプルを生成するデータ拡張戦略であるFair Mixupを提案する。
• グループ間の補間パスに沿ってモデルの予測が滑らかに変化するように正則化し、パス全体にわたる予測分散を最小化する。
• 補間パスに沿った特徴マップのヤコビアンに基づく閉形式の滑らかさ正則化損失を定式化し、感受性属性に対して感受性が低いモデルを好む。
• 潜在空間内補間（Manifold Mixup）を用いることで、補間されたサンプルが自然なデータ多様体上に位置することを保証し、より意味的で意味的に整合性のある補間を可能にする。
• 任意のモデルアーキテクチャおよびデータモダリティ（視覚、表計算、NLPタスクを含む）と互換性のあるプラグイン型正則化技術としてFair Mixupを統合する。
• 標準的な交差エントロピー損失と滑らかさ正則化損失の組み合わせでモデルを訓練し、精度と公平性一般化の両方を最適化する。

実験結果

リサーチクエスチョン

• RQ1 潜在空間内での感受性グループ間の補間は、デモグラフィックパリティや等しいオッズといった公平性指標の一般化を向上させるか？
• RQ2 Fair Mixupは、視覚、表計算、NLPなどの異なるデータモダリティにおいて、既存の公平性正則化技術（例：敵対的バイアス除去、ギャップ正則化）と比較して、公平性一般化の面で優れているか？
• RQ3 グループ間の補間パスに沿って予測が滑らかに変化するように制約を課すことで、訓練データに直接制約を課すのと比較して、より強靭な公平性一般化が達成できるか？
• RQ4 入力空間内補間と比較して、潜在空間内補間（Manifold Mixup）を用いることで、公平性一般化がどの程度向上するか？
• RQ5 Fair Mixupは、アーキテクチャの変更なしに、表計算データ、画像、テキストなど多様なモダリティに効果的に適用可能か？

主な発見

• Fair Mixupは、表計算、視覚、NLPベンチマークにおいて、ベースライン手法と比較して一貫して優れた公平性と精度のトレードオフを達成し、デモグラフィックパリティ（ΔDP）および等しいオッズ（ΔEO）の一般化が著しく向上した。
• CelebAデータセットにおいて、Fair Mixupは、魅力や笑顔といった属性の二値分類タスクで、標準的なMixupや他のベースラインと比較してΔDPを最大40％まで低減した。
• Jigsawのトキシックコメント分類タスクでは、Fair Mixupは最小のΔDP（ほぼ直線的で勾配が小さいパス）を達成し、『逆U字型』の予測パスを示す敵対的バイアス除去やギャップ正則化を上回った。
• 補正済みパスの可視化では、Fair Mixupが入力空間および潜在空間の両方でより平坦で直線的な予測曲線を生成しており、感受性属性に対する強い不変性を示している。
• Manifold Mixupは標準的なMixupよりも性能を向上させ、潜在空間内補間がグループ間の意味的遷移をよりよく捉えられることを示している。
• 理論的分析により、Fair Mixupが特徴空間におけるマハラノビス距離に対応しており、特徴マップのヤコビアンを介して公平性を強制するものであることが示され、正則化効果の幾何的解釈が得られた。