[論文レビュー] Envy-Free Classification

Maria-Florina Balcan, Travis Dick+2 more|arXiv (Cornell University)|Jan 1, 2019

Game Theory and Voting Systems被引用数 8

ひとこと要約

この論文は、個人が自分自身の分類結果を他の人のものよりも好むことを前提とした、機械学習における公平性基準として「 envy-free 分類 」を導入する。また、低 Natarajan 維度を持つファミリーからの決定的分類器の混合を用いる場合、わずかなサンプルで一般化可能性が保証されることを証明し、多様な好みを持つ状況下での公平で一般化可能な分類の理論的保証を確立する。

ABSTRACT

In classic fair division problems such as cake cutting and rent division, envy-freeness requires that each individual (weakly) prefer his allocation to anyone else's. On a conceptual level, we argue that envy-freeness also provides a compelling notion of fairness for classification tasks, especially when individuals have heterogeneous preferences. Our technical focus is the generalizability of envy-free classification, i.e., understanding whether a classifier that is envy free on a sample would be almost envy free with respect to the underlying distribution with high probability. Our main result establishes that a small sample is sufficient to achieve such guarantees, when the classifier in question is a mixture of deterministic classifiers that belong to a family of low Natarajan dimension.

研究の動機と目的

• 異なった個人的好みを有する分類タスクにおいて、 envy-free を意味のある公平性基準として確立すること。
• 有限サンプル上で envy-free である分類器が、母集団のデータ分布に関して近似的に envy-free であるかどうかを調査すること。
• 分類器ファミリーにやや複雑さの制限を課す条件下で、 envy-free 分類の一般化可能性に対する理論的保証を提供すること。
• 低 Natarajan 維度を持つ分類器の混合を用いる場合、小さなサンプルサイズで、母集団分布への高確率での一般化が達成可能であることを示すこと。

提案手法

• 各個人が自分自身の結果を他の誰かの結果よりも強く好むことを前提として、分類における envy-free を形式化する。
• Natarajan 維度が低いファミリーから抽出された決定的分類器の混合として分類器をモデル化し、複雑さの制御を可能にする。
• サンプルに基づく経験的 envy-free を母集団レベルの公平性の代理として用い、一般化ギャップを分析する。
• 統計的学習理論の道具を用いて、サンプル上で envy-free である分類器が母集団で近似的に envy-free でない確率を制限する。
• 低 Natarajan 維度を活用して仮説クラスの複雑さを制御し、小さなサンプルから一般化が可能であることを保証する。
• 母集団分布上で近似的に envy-free である確率が高く保証されるような、高確率での一般化バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 個人の好みが多様な分類タスクにおいて、 envy-free が実用的な公平性基準として機能できるか？
• RQ2 有限サンプル上で得られる経験的 envy-free 性は、母集団のデータ分布へどの程度一般化できるか？
• RQ3 小さなサンプルで envy-free の一般化を保証するために、分類器ファミリーに必要な複雑さの仮定は何か？
• RQ4 分類器ファミリーの Natarajan 維度は、一般化可能な envy-free を達成するためのサンプル複雑さにどのように影響するか？

主な発見

• 有限サンプル上で envy-free である分類器は、母集団分布に関して高確率で近似的に envy-free である。
• 一般化に必要なサンプルサイズは、個人の数ではなく、分類器ファミリーの Natarajan 維度に依存する。
• 低 Natarajan 維度は、仮説クラスが十分に単純であることを保証し、小さなサンプルからの一般化を可能にする。
• やや複雑さの制限を課した分類器ファミリーの下で、母集団分布上で高確率で近似的に envy-free であることを保証する一般化バウンドが導出された。
• 低複雑性のファミリーからの決定的分類器の混合を用いる場合、小さなサンプルで envy-free が達成可能であることが示された。
• 理論的枠組みは、実験的に envy-free であり、未観測データへ一般化可能な公平な分類器の設計に基盤を提供する。