[論文レビュー] FairXGBoost: Fairness-aware Classification in XGBoost

Srinivasan Ravichandran, Drona Khurana+2 more|arXiv (Cornell University)|Sep 3, 2020

Ethics and Social Impacts of AI参考文献 15被引用数 5

ひとこと要約

この論文では、XGBoostのスケーラビリティ、透明性、高い予測精度を維持しつつ、最小限のコード変更で木構築プロセスに直接正規化に基づくバイアス低減技術を統合する公平性に配慮した拡張版であるFairXGBoostを紹介する。ベンチマークデータセット上で、既存の手法と同等またはそれを上回る最新の公平性パフォーマンスを達成している。

ABSTRACT

Highly regulated domains such as finance have long favoured the use of machine learning algorithms that are scalable, transparent, robust and yield better performance. One of the most prominent examples of such an algorithm is XGBoost. Meanwhile, there is also a growing interest in building fair and unbiased models in these regulated domains and numerous bias-mitigation algorithms have been proposed to this end. However, most of these bias-mitigation methods are restricted to specific model families such as logistic regression or support vector machine models, thus leaving modelers with a difficult decision of choosing between fairness from the bias-mitigation algorithms and scalability, transparency, performance from algorithms such as XGBoost. We aim to leverage the best of both worlds by proposing a fair variant of XGBoost that enjoys all the advantages of XGBoost, while also matching the levels of fairness from the state-of-the-art bias-mitigation algorithms. Furthermore, the proposed solution requires very little in terms of changes to the original XGBoost library, thus making it easy for adoption. We provide an empirical analysis of our proposed method on standard benchmark datasets used in the fairness community.

研究の動機と目的

• 規制が厳しい業界における公平性に配慮した機械学習と、スケーラブルで解釈可能なモデル（XGBoost）の間のギャップを埋める。
• XGBoostのグリーディー木構築アルゴリズムと互換性があるバイアス低減フレームワークを開発するが、これは大多数の既存の公平性手法と互換性がとれない。
• 予測精度を維持しつつ、強力な公平性指標（例：差次的影響 ≥ 80%）を達成するが、複雑な敵対的訓練に依存しない。
• XGBoostの強みと公平性保証を最小限の変更で組み合わせることで、金融・医療分野における実用的導入を可能にする。
• 再トレーニングを必要とせず、1つのハイパーパrameter（μ）で公平性と精度のトレードオフを制御できる、即挿入型のソリューションを提供する。

提案手法

• 感受性グループ間の結果の不平等に基づいてモデル予測をペナルティ化する公平性正則化項を、XGBoostの目的関数に導入する。
• 正則化された目的関数に適合するように、勾配およびヘッセ行列の値を再計算し、XGBoostの2次勾配ブースティングフレームワークとの互換性を維持する。
• 木構築中のスプリット評価プロセスに公平性正則化項を直接統合し、プロセス内での公平性最適化を保証する。
• 微分可能で連続的な正則化項を用いることで、XGBoostの既存トレーニングパイプライン内でのエンドツーエンド最適化を可能にする。
• 公平性ペナルティの強度を制御するハイパーパrameter μ を用いて、公平性と精度のトレードオフを調整する。
• XGBoostのネイティブな評価指標サポートを活用し、トレーニング中に公平性と精度のトレードオフをモニタリングする。

実験結果

リサーチクエスチョン

• RQ1 XGBoostの木構築プロセスに、公平性に配慮した正則化技術を、そのコア最適化フレームワークを損なわずに効果的に統合できるか？
• RQ2 提案手法FairXGBoostは、最新の公平性手法と比較して、公平性（例：差次的影響）と予測精度の両面でどのように評価されるか？
• RQ3 FairXGBoostは、多様なベンチマークデータセットにおいて、高いモデルパフォーマンスを維持しながら、十分な公平性水準（例：DI ≥ 80%）を達成できるか？
• RQ4 実際の応用において、公平性ハイパーパrameter μ の選択が、公平性と精度のバランスにどのように影響するか？
• RQ5 元のXGBoostモデルがすでに低いバイアスを示すデータセットにも、この手法は適用可能か？また、そのような状況での性能はいかがであるか？

主な発見

• FairXGBoostは、Adultを除くすべてのデータセットで、(Grari et al., 2019)、(Zhang et al., 2018)、(Kamishima et al., 2012) よりも精度低下を抑えつつ、同等またはより優れた公平性を達成した。
• Adultデータセットでは、元のXGBoostモデルがすでに低い公平性を示していたため、FairXGBoostはDI ≥ 0.8を達成するためにはμ ∈ [0.6, 0.7) の範囲を必要とし、より高いトレードオフコストが生じた。
• COMPASデータセットでは、FairXGBoostは低いμ値（μ ∈ [0.2, 0.5]）で妥当な公平性（DI ≥ 0.8）を達成しており、このデータセットではより高い効率性を示した。
• BankおよびDefaultデータセットでは、元のXGBoostモデルがすでにDI ≥ 0.8の基準を満たしており、FairXGBoostはその水準を劣化させずに維持した。
• μを用いた細かい公平性の制御が可能であり、各μ値で最大精度のモデルを選択することで、モデル開発者が実用的なトレードオフ曲線を活用できることが示された。
• このフレームワークはXGBoostのネイティブな評価トラッキングと互換性があり、トレーニング中に公平性と精度のトレードオフをリアルタイムでモニタリング可能である。