[論文レビュー] Fairness Through Computationally-Bounded Awareness

Michael P. Kim, Omer Reingold+1 more|arXiv (Cornell University)|Mar 8, 2018

Ethics and Social Impacts of AI参考文献 9被引用数 52

ひとこと要約

この論文は metric multifairness を導入する。これは、限られた数の metric サンプルから学習可能な、公平性の緩和をもたらす。類似のサブ集団を十分な類似度メトリックの知識なしに公平に扱える。

ABSTRACT

We study the problem of fair classification within the versatile framework of Dwork et al. [ITCS '12], which assumes the existence of a metric that measures similarity between pairs of individuals. Unlike earlier work, we do not assume that the entire metric is known to the learning algorithm; instead, the learner can query this arbitrary metric a bounded number of times. We propose a new notion of fairness called metric multifairness and show how to achieve this notion in our setting. Metric multifairness is parameterized by a similarity metric $d$ on pairs of individuals to classify and a rich collection ${\cal C}$ of (possibly overlapping) "comparison sets" over pairs of individuals. At a high level, metric multifairness guarantees that similar subpopulations are treated similarly, as long as these subpopulations are identified within the class ${\cal C}$.

研究の動機と目的

• すべての個人ペアについて完全なメトリック知識を必要としない、公平性の概念を動機づけて形式化する。
• 豊富な比較の集合を用いた Lipschitz ベースの公平性の緩和として metric multifairness を導入する。
• 少数の metricサンプルから metric multifairness を達成する効率的な学習アルゴリズムを開発する。
• 再学習なしに、現在の予測に対して post-processing により metric multifairness を適用できることを示す。
• 公平性の強さ、サンプル複雑性、および計算上の境界のトレードオフを分析する。

提案手法

• metric d および比較の集合 C に対して metric multifairness を定義し、C の各 S に対して平均 Lipschitz 条件を課す。
• 線形仮説クラスに対する損失を最適化しつつ multifairness を強制する switching サブグラデイント下降アルゴリズムを提案する。
• metric multifairness はメトリックの複雑さに依存せず、log|C| に比例する metric サンプル数で達成できることを示す。
• 小さな metric サンプルを用いて既存の予測を metric multifair セットへ射影する post-processing アプローチを提供する。
• 制約探索問題をクラス C 上のアグノスティック学習へ還元し、C に効率的なアグノスティック学習器がある場合に効率化を図る。
• サンプル複雑性の厳密性と疑似乱数性との関係を示す難度の結果について論じる。

実験結果

リサーチクエスチョン

• RQ1 すべての個人ペアに対する対を完全にメトリックで見ることなく、意味のある公平性概念を達成できるか。
• RQ2 制限された数の metric サンプルのみを用いて Lipschitz 型の公平性制約をどのように課すことができるか。
• RQ3 比較クラス C の表現力と公平性保証の強さとの関係は何か。
• RQ4 限られた metric アクセスで metric multifairness を満たすように予測を効率的に学習または post-process できるか。
• RQ5 metric multifairness の保証に内在する限界（サンプル複雑性、難易度）は何か。

主な発見

• Metric multifairness は、豊富であるが制限された比較の集合 C に対して Lipschitz様の制約を課すことにより metric fairness を一般化する。
• A switching サブグラデイント下降アルゴリズムは、O(B^2 n^2 log(n/δ)/τ^2) 回の反復と O(log(|C|/δ)/(γ τ^2)) の metric サンプルで高い確率で metric multifairship を学習する。
• metric サンプル複雑性は |C| に対して対数的にスケールする。
• もし C が γ-大きく、平均距離が小さい比較が存在する場合、metric multifair の仮説は多くのペアに対してより強い個別の公平性を示さなければならない（命題1）。
• C 上のアグノスティック学習への還元は、違反制約探索を高速化し、C に効率的なアグノスティック学習器がある場合の効率的実装を可能にする（定理3）。
• 難度の結果は、サンプル複雑性の界が log log(|C|) 因子まで厳密であること、および高効用の結果には C に対するいくつかの学習可能性の仮定が必要であることを示す（定理4、命題5）。