[論文レビュー] Fairness risk measures

Robert C. Williamson, Aditya Krishna Menon|arXiv (Cornell University)|May 24, 2019

Health Systems, Economic Evaluations, Quality of Life被引用数 29

ひとこと要約

本稿では、感受性特徴によって定義されるサブグループ間で期待損失を同等にする公平性定義を提案し、カテゴリカルおよび実数値の感受性属性を扱えるように、先行研究を一般化する。金融数学におけるリスク測度と結びつけることで、条件付きリスク価値（CVaR）に基づく凸最適化目的関数を導入し、強力な理論的保証のもとで効率的かつスケーラブルな公平学習を可能にする。

ABSTRACT

Ensuring that classifiers are non-discriminatory or fair with respect to a sensitive feature (e.g., race or gender) is a topical problem. Progress in this task requires fixing a definition of fairness, and there have been several proposals in this regard over the past few years. Several of these, however, assume either binary sensitive features (thus precluding categorical or real-valued sensitive groups), or result in non-convex objectives (thus adversely affecting the optimisation landscape). In this paper, we propose a new definition of fairness that generalises some existing proposals, while allowing for generic sensitive features and resulting in a convex objective. The key idea is to enforce that the expected losses (or risks) across each subgroup induced by the sensitive feature are commensurate. We show how this relates to the rich literature on risk measures from mathematical finance. As a special case, this leads to a new convex fairness-aware objective based on minimising the conditional value at risk (CVaR).

研究の動機と目的

• 二値の感受性特徴に限定される既存の公平性定義の限界を解消すること。
• カテゴリカルおよび実数値のグループを含む、一般的な感受性特徴をサポートする公平性定義を構築すること。
• 公平性に配慮した学習のための凸最適化目的関数を定式化し、実用的な取り扱いやすさとスケーラビリティを向上させること。
• 機械学習における公平性と、金融数学におけるリスク測度の確立された理論を結びつけること。
• サブグループのリスクの条件付きリスク価値（CVaR）を最小化することで、凸的でスケーラブルかつ理論的に裏付けられた公平性目的関数が得られることを示すこと。

提案手法

• 感受性特徴によって誘導されるサブグループ間で期待損失（リスク）を均等化する公平性定義を提案し、同等性を保証する。
• 特に条件付きリスク価値（CVaR）を含む、リスク測度の金融数学フレームワークに公平性制約を組み込む。
• 感受性サブグループ間の損失分布のCVaRを最小化することで、凸最適化目的関数を導出する。
• 提案されたフレームワークを教師あり学習タスクに適用し、公平性制約付きのエンドツーエンド学習を可能にする。
• 得られた最適化問題が凸であることを示し、グローバル収束性と計算効率を保証する。
• 連続的および多クラス属性を含む、任意の感受性特徴を許容することで、先行研究の公平性定義を一般化する。

実験結果

リサーチクエスチョン

• RQ1 カテゴリカルおよび実数値のグループを含む、任意の感受性特徴に適用可能な公平性の定義はどのように可能か？
• RQ2 理論的に妥当でかつ計算的に取り扱いやすい公平性目的関数を構築できるか？
• RQ3 機械学習における公平性と、金融数学におけるリスク測度の間にはどのような関係があるか？
• RQ4 サブグループのリスクのCVaRを最小化することは、スケーラブルなトレーニングに適した凸最適化問題をもたらすか？
• RQ5 一般化性とロバスト性の観点から、提案された公平性定義は既存の定義と比べてどのように異なるか？

主な発見

• 提案された公平性定義は、連続的および多クラス属性を含む、任意のタイプの感受性特徴を許容することで、既存のアプローチを一般化する。
• この手法により、凸最適化目的関数が得られ、公平な分類器の効率的かつグローバルに最適なトレーニングが可能になる。
• 公平性をリスク測度と結びつけることで、金融数学の強力な理論的性質を継承する。
• CVaRを公平性目的関数として用いることで、最も成績が悪いサブグループが優先的に扱われ、公平性が向上する。
• 凸最適化を通じてスケーラブルなトレーニングが可能になるため、実世界の応用において実用的である。
• このアプローチは、等しいオッズや等しい機会といった先行研究の公平性定義を、統一された凸形式で包含・拡張する。