[論文レビュー] Modeling Techniques for Machine Learning Fairness: A Survey

Mingyang Wan, Daochen Zha+2 more|arXiv (Cornell University)|Nov 4, 2021

Ethics and Social Impacts of AI参考文献 68被引用数 10

ひとこと要約

本サーベイは、インプロセッシング機械学習公平性技術の包括的レビューを提供し、公平性制約を最適化に直接組み込む明示的手法（explicit methods）と、潜在表現を精錬する暗黙的手法（implicit methods）に分類する。分散的影響および処遇の不平等を緩和する有効性を強調し、マルチ属性公平性、解釈可能性統合、パフォーマンスのトレードオフといった主な課題を特定。標準化されたベンチマークとより深い理論的分析の推進を提言。

ABSTRACT

Machine learning models are becoming pervasive in high-stakes applications. Despite their clear benefits in terms of performance, the models could show discrimination against minority groups and result in fairness issues in a decision-making process, leading to severe negative impacts on the individuals and the society. In recent years, various techniques have been developed to mitigate the unfairness for machine learning models. Among them, in-processing methods have drawn increasing attention from the community, where fairness is directly taken into consideration during model design to induce intrinsically fair models and fundamentally mitigate fairness issues in outputs and representations. In this survey, we review the current progress of in-processing fairness mitigation techniques. Based on where the fairness is achieved in the model, we categorize them into explicit and implicit methods, where the former directly incorporates fairness metrics in training objectives, and the latter focuses on refining latent representation learning. Finally, we conclude the survey with a discussion of the research challenges in this community to motivate future exploration.

研究の動機と目的

• 機械学習におけるインプロセッシング公平性緩和技術を体系的に分類および分析すること。
• モデルアーキテクチャの異なるレベルで公平性がどのように達成されるかを検討すること—明示的には目的関数を介して、暗黙的には表現学習を介して。
• マルチ公平性シナリオ、解釈可能性との統合、公平性-パフォーマンスのトレードオフにおける未解決課題を特定すること。
• 公平性アルゴリズムの実証的評価を進めるために、標準化されたデータセットとベンチマークを提唱すること。
• 現在のインプロセッシング公平性手法における理論的・実践的ギャップを提示することで、今後の研究を促すこと。

提案手法

• モデルアーキテクチャにおける公平性の適用位置に基づき、インプロセッシング公平性手法を明示的および暗黙的に分類すること。
• 明示的手法は、公平性制約や正則化子（例：共分散、相関）をモデルの最適化目的関数に直接組み込む。
• 暗黙的手法は、アーキテクチャ設計を通じて公平な表現を学習することに焦点を当て、例として敵対的訓練や対照的学習を含む。
• 公平性メトリクス（例：デモグラフィックパラティーション、等しい機会、等価化されたオッズ）を制約定式化の設計原則として用いる。
• 表現レベルのデバイアス化技術を適用し、完全な再トレーニングなしに事前学習済みモデルを微調整すること。
• グループレベルおよび個人レベルの公平性目標を同時に満たす制約最適化フレームワークを提案すること。

実験結果

リサーチクエスチョン

• RQ1 インプロセッシング技術を用いて、トレーニング中に機械学習モデルに公平性を体系的に組み込む方法は何か？
• RQ2 明示的および暗黙的インプロセッシング公平性手法の主な違いとトレードオフは何か？
• RQ3 既存のインプロセッシング手法が失敗する状況、特に感受性属性が利用不可または複数の属性が関与する場合とは何か？
• RQ4 解釈可能性技術を公平性と統合することで、モデルの透明性向上とバイアス検出の改善がどのように達成できるか？
• RQ5 公平性の向上がパフォーマンスの低下を招くのではなく、共存または逆に向上させる条件は何か？

主な発見

• 明示的手法は、公平性に配慮した正則化を用いて、予測が感受性属性に依存しないように直接制約することで、バイアスを効果的に低減する。
• 敵対的デバイアスや対照的学習などの暗黙的手法は、予測目的関数を変更せずに、潜在表現を精錬することでバイアスを低減するのに成功する。
• インプロセッシング技術を用いることで、BERTのような事前学習済みモデルを最小限の再トレーニングでデバイアス化でき、NLP応用における効率的な公平性緩和を可能にする。
• 普遍的な公平性-パフォーマンスのトレードオフは存在しない。半教師あり学習の例のように、公平性と精度が相乗的に向上する場合もある。
• 解釈可能性と公平性の統合には可能性があり、特徴量の重要度分析により感受性属性の影響を特定し、正則化のガイドラインとすることが可能である。
• 現在の研究では、デモグラフィック属性を備えた大規模で標準化されたベンチマークデータセットが不足しており、公平性アルゴリズムの評価と比較が制限されている。