[論文レビュー] A Generalised Exponentiated Gradient Approach to Enhance Fairness in Binary and Multi-class Classification Tasks

Maryam Boubekraoui, Giordano D'Aloisio+1 more|arXiv (Cornell University)|Mar 22, 2026

Ethics and Social Impacts of AI被引用数 0

ひとこと要約

この論文は Generalised Exponentiated Gradient (GEG) を提案する。これは Exponentiated Gradient をマルチクラス分類と複数の公平性制約へと拡張したインプロセシング法で、妥当な精度トレードオフとともに実質的な公平性向上を達成する。

ABSTRACT

The widespread use of AI and ML models in sensitive areas raises significant concerns about fairness. While the research community has introduced various methods for bias mitigation in binary classification tasks, the issue remains under-explored in multi-class classification settings. To address this limitation, in this paper, we first formulate the problem of fair learning in multi-class classification as a multi-objective problem between effectiveness (i.e., prediction correctness) and multiple linear fairness constraints. Next, we propose a Generalised Exponentiated Gradient (GEG) algorithm to solve this task. GEG is an in-processing algorithm that enhances fairness in binary and multi-class classification settings under multiple fairness definitions. We conduct an extensive empirical evaluation of GEG against six baselines across seven multi-class and three binary datasets, using four widely adopted effectiveness metrics and three fairness definitions. GEG overcomes existing baselines, with fairness improvements up to 92% and a decrease in accuracy up to 14%.

研究の動機と目的

• Formulate fairness in multi-class classification as a multi-objective optimization balancing accuracy and multiple fairness constraints.
• Develop a Generalised Exponentiated Gradient (GEG) algorithm that handles binary and multi-class tasks with several simultaneous fairness definitions.
• Provide theoretical and empirical evaluation of GEG against baselines, and offer practical guidance for real-world deployment.

提案手法

• Exend Exponentiated Gradient フレームワークをマルチクラスラベルと正ラベル公平性制約をサポートするよう拡張する。
• 公平性制約を分類子指標の期待値を用いた線形モーメント条件として表現する。
• 複数の制約（Combined Parity）に対して対反復の Exponentiated Gradient アップデートを用いた凸サドル点問題を解く。
• ランダム化分類器を介してベース分類器のスパースな混合を生成し、精度と複数の公平性基準のバランスを実現する。
• 有界な損失と τ-近似最適応答の下で O(1/√T) 収束率を示す収束保証を提供する。

実験結果

リサーチクエスチョン

• RQ1 RQ1 GEG はマルチクラス分類におけるバイアスをどれだけ効果的に軽減し、予測性能をどの程度維持できるか？
• RQ2 RQ2 GEG はバイナリ分類におけるバイアスをどれだけ効果的に軽減し、予測性能をどの程度維持できるか？
• RQ3 RQ3 マルチクラスタスクにおける既存の偏り緩和手法と GEG をどのように比較できるか？
• RQ4 RQ4 異なるベース分類器と合わせたときの GEG の性能はどうなるか？

主な発見

• GEG は評価タスク全体で公平性の改善を最大 92% 達成。
• GEG は精度の低下を最大 14% まで抑えつつ公平性違反を低減できる。
• GEG は7つのマルチクラスデータセットと3つのバイナリデータセットで6つのベースラインを上回った。
• GEG は4つの有効性指標と3つの公平性定義の組み合わせで評価され、堅牢な改善を示した。
• 再現可能性のための Python 実装と評価結果を含む再現パッケージが公開されている。