[論文レビュー] Pareto Efficient Fairness in Supervised Learning: From Extraction to Tracing

Mohammad Mahdi Kamani, Rana Forsati+2 more|arXiv (Cornell University)|Apr 4, 2021

Ethics and Social Impacts of AI参考文献 60被引用数 6

ひとこと要約

本稿では、分類問題における公平性と精度のバランスを図るために、定義に依存しないフレームワーク「パレート効率的公平性（PEF）」を導入する。このフレームワークは、二段階最適化問題として問題を定式化し、勾配に基づく手法を提案することで、パレート前沿に収束することを保証する。これにより、多様な公平性基準および実世界のデータセットにおいて、公平性と精度の最適なトレードオフを抽出・追跡可能となる。

ABSTRACT

As algorithmic decision-making systems are becoming more pervasive, it is crucial to ensure such systems do not become mechanisms of unfair discrimination on the basis of gender, race, ethnicity, religion, etc. Moreover, due to the inherent trade-off between fairness measures and accuracy, it is desirable to learn fairness-enhanced models without significantly compromising the accuracy. In this paper, we propose Pareto efficient Fairness (PEF) as a suitable fairness notion for supervised learning, that can ensure the optimal trade-off between overall loss and other fairness criteria. The proposed PEF notion is definition-agnostic, meaning that any well-defined notion of fairness can be reduced to the PEF notion. To efficiently find a PEF classifier, we cast the fairness-enhanced classification as a bilevel optimization problem and propose a gradient-based method that can guarantee the solution belongs to the Pareto frontier with provable guarantees for convex and non-convex objectives. We also generalize the proposed algorithmic solution to extract and trace arbitrary solutions from the Pareto frontier for a given preference over accuracy and fairness measures. This approach is generic and can be generalized to any multicriteria optimization problem to trace points on the Pareto frontier curve, which is interesting by its own right. We empirically demonstrate the effectiveness of the PEF solution and the extracted Pareto frontier on real-world datasets compared to state-of-the-art methods.

研究の動機と目的

• アルゴリズム意思決定システムにおける公平性と精度の根本的トレードオフに取り組む。
• パレート効率性を保証しない、収束保証のない既存の公平性手法の限界を克服する。
• 任意の明確に定義された公平性概念に適用可能な汎用的で定義に依存しないフレームワークを提供する。
• ユーザーの公平性と精度に対する好みに基づき、パレート前沿に沿った解を体系的に抽出・追跡可能にする。
• 凸でない設定を含む、公平性を越えたマルチ基準学習問題へのパレート最適化の適用範囲を拡張する。

提案手法

• 内側の最適化問題が公平性制約を強制し、外側の最適化問題が精度を最適化する二段階最適化問題として、公平性を向上させた分類を定式化する。
• 凸および非凸の目的関数に対して、パレート効率解に理論的に収束する勾配ベースの勾配降下法を開発する。
• 任意の公平性概念（例：デモグラフィックパラティーション、等しいオッズ）を、公平性の意味論を保持したままPEFフレームワークに還元する変換を導入する。
• 公平性と精度の目的関数の間の好みの重みを調整することで、パレート前沿に沿った任意の点をトレースする手法を提案する。
• 二段階最適化プロセスにおけるリーダーフォロワーのダイナミクスをモデル化するために、スタックルバーゲーム構造を活用する。
• 二段階最適化定式化における最適性条件の詳細な分析を通じて、理論的収束保証を確保する。

実験結果

リサーチクエスチョン

• RQ1 多様な公平性定義にわたってパレート効率性を保証しつつ、精度を損なわせない統一された公平性フレームワークを設計可能か？
• RQ2 公平性と精度のトレードオフ最適化において、パレート前沿に沿った解を効率的に計算・トレースすることは可能か？
• RQ3 非凸目的関数における勾配ベース手法の、二段階公平性最適化における収束特性はいかなるものか？
• RQ4 既存の公平性概念が、意味的整合性を保ちつつ、どの程度PEFフレームワークに還元可能か？
• RQ5 実世界のデータセットにおいて、提案手法は最先端の公平性に配慮したモデルと比較して、公平性・精度のトレードオフにおいてどのように優れているか？

主な発見

• 提案されたPEFフレームワークは、凸および非凸の公平性目的関数に対して、パレート効率解に収束することを保証し、公平性と精度の最適なトレードオフを実現する。
• 本手法により、パレート前沿全体から解を体系的に抽出・追跡可能となり、意思決定者が希望する公平性・精度のバランスに基づくモデル選択が可能となる。
• 実世界のデータセットを用いた実験評価では、PEFが最先端の手法を上回り、精度の著しい低下を伴わずに高い公平性を達成している。
• フレームワークは定義に依存しないため、任意の明確に定義された公平性概念をPEFに還元可能であり、公平性基準に広く適用可能である。
• 勾配ベースの精密化により、非凸の公平性制約を効果的に処理し、ヒューリスティックな緩和に依存しない。
• アルゴリズムは、二値の感受性特徴や二値分類タスクにとどまらず、マルチグループおよびマルチラベルの公平性設定においても頑健である。