[論文レビュー] An Axiomatic Theory of Provably-Fair Welfare-Centric Machine Learning

Cyrus Cousins|arXiv (Cornell University)|Apr 29, 2021

Ethics and Social Impacts of AI参考文献 44被引用数 4

ひとこと要約

本稿では、公平な機械学習における伝統的な効用ベースの福利厚生とは対照的に、社会的損害の福祉理論的測度であるmalfareを導入する。malfare最小化としての公平な学習を、グループのリスク値の上での枠組みとして提示することで、新たな理論的基盤を確立し、標準的なPAC学習者が弱い条件下で公平-PAC学習者に変換可能であることを証明するとともに、公平なモデル学習のための統計的および計算的効率性の保証を提供する。

ABSTRACT

We address an inherent difficulty in welfare-theoretic fair machine learning by proposing an equivalently axiomatically-justified alternative and studying the resulting computational and statistical learning questions. Welfare metrics quantify overall wellbeing across a population of one or more groups, and welfare-based objectives and constraints have recently been proposed to incentivize fair machine learning methods to produce satisfactory solutions that consider the diverse needs of multiple groups. Unfortunately, many machine-learning problems are more naturally cast as loss minimization tasks, rather than utility maximization, which complicates direct application of welfare-centric methods to fair machine learning. In this work, we define a complementary measure, termed malfare, measuring overall societal harm (rather than wellbeing), with axiomatic justification via the standard axioms of cardinal welfare. We then cast fair machine learning as malfare minimization over the risk values (expected losses) of each group. Surprisingly, the axioms of cardinal welfare (malfare) dictate that this is not equivalent to simply defining utility as negative loss. Building upon these concepts, we define fair-PAC (FPAC) learning, where an FPAC learner is an algorithm that learns an $\varepsilon$-$δ$ malfare-optimal model with bounded sample complexity, for any data distribution, and for any (axiomatically justified) malfare concept. Finally, we show broad conditions under which, with appropriate modifications, standard PAC-learners may be converted to FPAC learners. This places FPAC learning on firm theoretical ground, as it yields statistical and computational efficiency guarantees for many well-studied machine-learning models, and is also practically relevant, as it democratizes fair ML by providing concrete training algorithms and rigorous generalization guarantees for these models

研究の動機と目的

• 機械学習における福祉中心の公平性と自然な損失最小化パラダイムとの不一致を是正すること。
• 負の効用（損失）に適用された基数的福祉公理に基づき、リスク最小化の目的とより整合性の高い、公理的かつ福祉ベースの社会的損害測度としてのmalfareを提唱すること。
• 統計的および計算的効率性を保証する公平な機械学習のための形式的枠組みであるfair-PAC学習を確立すること。
• 標準的なPAC学習者が、有界な標本複雑性と一般化保証を伴って、公平-PAC学習者に適切に変換可能であることを示すこと。
• malfare最小化が、特に非リプシッツ的挙動下で、福祉最大化よりも根本的に安定性と取り扱いやすさに優れていることを示すこと。

提案手法

• malfareを、負の効用（損失）に適用した基数的福祉公理に基づくグループのリスク値のべき平均として定義する。
• リスク最小化に適合した修正を施した標準的な基数的福祉公理を用いて、malfareの公理的妥当性を確立する。
• fair-PAC（FPAC）学習を導入：任意のデータ分布に対して、有界な標本複雑性を伴い、ε-δ malfare最適モデルを学習するアルゴリズムを定義する。
• 有限標本からのmalfare推定にための経験的malfare最小化原理を適用し、理論的収束保証を提供する。
• 一様収束および被覆の議論を活用して、FPAC学習の計算的および統計的効率性を証明する。
• 凸最適化および被覆条件が満たされる弱い条件下で、凸最適化ベースの学習者が効率的にFPAC学習に適合可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 malfare最小化は、効用 = -損失とする福祉関数の最大化と等価か？
• RQ2 標準的なPAC学習者が、有界な標本複雑性を伴って体系的に公平-PAC学習者に変換可能か？
• RQ3 実現可能性およびアゴニスティックな設定下でのmalfare最小化における統計的および計算的学習保証は何か？
• RQ4 なぜmalfare最小化は、公平な学習における福祉最大化よりも取り扱いやすいのか？
• RQ5 損失関数に対して一様収束とPAC学習可能性が異なる場合、アゴニスティックなFPAC学習可能性とPAC学習可能性は等価か？

主な発見

• malfare最小化は、効用 = -損失とする福祉関数の最大化と等価でない。これは、公理的構造および安定性の非等価性に起因する。
• fair-PAC学習は、すべてのデータ分布に対してmalfare最適モデルの有界な標本複雑性と一般化保証を提供する。
• 理論的分析により、実現可能性下ではFPAC学習可能性が、標本複雑性の観点からPAC学習可能性と等価であることが示された。
• malfare関数は収縮性を示す（定理2.6、項目3）、これにより一様な標本複雑性の上限が保証されるが、福祉関数にはその性質がない。
• p ∈ [0,1) の福祉関数、例えばナッシュ社会的福祉はリプシッツ連続ではなく、推定において無限大の標本複雑性を示す可能性がある。
• 凸最適化および被覆条件が満たされる限り、多くのよく知られたモデルに対してFPAC学習は計算的に実行可能である。