[論文レビュー] Equalizing Recourse across Groups
本稿では、線形および非線形モデルにおいて正則化された目的関数を用いて、分類器の意思決定境界までの距離の差を最小化することで、異なるデモグラフィックグループ間でのリカバリー（是正措置）の平等化を図る手法を提案する。本手法は、予測精度を維持しつつ、多様なデータセットおよびモデルタイプにおいて、リカバリーの不平等性を顕著に低減し、最大で100%の改善を達成した。
The rise in machine learning-assisted decision-making has led to concerns about the fairness of the decisions and techniques to mitigate problems of discrimination. If a negative decision is made about an individual (denying a loan, rejecting an application for housing, and so on) justice dictates that we be able to ask how we might change circumstances to get a favorable decision the next time. Moreover, the ability to change circumstances (a better education, improved credentials) should not be limited to only those with access to expensive resources. In other words, \emph{recourse} for negative decisions should be considered a desirable value that can be equalized across (demographically defined) groups. This paper describes how to build models that make accurate predictions while still ensuring that the penalties for a negative outcome do not disadvantage different groups disproportionately. We measure recourse as the distance of an individual from the decision boundary of a classifier. We then introduce a regularized objective to minimize the difference in recourse across groups. We explore linear settings and further extend recourse to non-linear settings as well as model-agnostic settings where the exact distance from boundary cannot be calculated. Our results show that we can successfully decrease the unfairness in recourse while maintaining classifier performance.
研究の動機と目的
- すべてのデモグラフィックグループの個人が現実的な行動によって望ましい結果を得られるようにすることにより、機械学習意思決定における倫理的懸念に対処すること。
- リカバリー（是正措置）を、分類器の意思決定境界からの個人の特徴ベクトルまでの距離として形式化し、公平性の定量的指標を可能にすること。
- このリカバリー距離をグループ間で均等化する正則化学習フレームワークを構築し、モデルの精度を損なわずに実現すること。
- 正確な境界距離が得られない非線形およびモデルに依存しない設定へこのアプローチを拡張すること。
- リカバリーの平等化が、多様なデータセットおよび分類器において予測性能を維持しながら、不公平性を顕著に低減することを実証的に検証すること。
提案手法
- リカバリー（是正措置）を、分類器の意思決定境界からの個人の特徴ベクトルまでの絶対距離として定義し、これを公平性指標として用いる。
- 訓練中に異なるデモグラフィックグループ間の平均リカバリー距離の差を最小化する正則化された目的関数を定式化する。
- 線形モデルに適用し、多項式カーネルおよび径路基底関数カーネルを用いたカーネル化されたモデル（例：SVM）へ拡張する。
- モデルに依存しない設定では、推定されたリカバリー距離に基づく再重み付け戦略を用いてグループ間の差を是正する。
- 境界距離の明示的計算が不要なモデル（例：ランダムフォレスト、ロジスティック回帰）において、サンプルの重みを活用して正則化効果を近似する。
- パーセンタイルベースの分布および中央値分析を用いて、複数回の実行および複数のデータセットにおけるリカバリー平等性の頑健性を評価する。
実験結果
リサーチクエスチョン
- RQ1高いモデル精度を維持しつつ、異なるデモグラフィックグループ間でのリカバリーの実現可能性の差を低減できるか？
- RQ2線形および非線形モデルの両方において、グループ間のリカバリー距離の差を最小化する正則化された目的関数はどの程度有効か？
- RQ3意思決定境界が明示的に不明なモデルに依存しない設定において、リカバリーの公平性はどの程度向上できるか？
- RQ4リカバリーの平等化は、リカバリー差の平均、中央値、パーセンタイル分布によって測定可能な不公平性の低減をもたらすか？
- RQ5提案手法は、異なるデータセットおよび分類器タイプにおいて、モデルの精度にどのような影響を与えるか？
主な発見
- givemecreditデータセットでは、多項式カーネルを用いた場合、リカバリー差が最大で100%低減され、複数のケースで95パーセンタイルの改善が90%を超えた。
- creditデータセットでは、モデルに依存しない設定でロジスティック回帰を用いた場合、学習時で90%、テスト時で100%のリカバリー差の低減が達成された。
- すべてのデータセットおよびモデルで中央値のリカバリー差が低下し、少なくとも半数の実行で平等化後に差が低減されたことが示された。
- ほとんどのケースでベースラインから1%以内の精度を維持し、特定のケース（例：propublica でのAdaBoost）では最大7%のわずかな低下が観察された。
- 線形カーネルは多項式カーネルほど改善が小さく、パラメータ数が少なく、意思決定境界の調整の自由度が低いことが原因と考えられる。
- モデルに依存しない設定における再重み付け戦略は、ランダムフォレスト、ロジスティック回帰、AdaBoostのすべてでリカバリー差を有意に低減し、境界距離の明示的計算に依存しない一般化の有効性を示した。
より良い研究を、今すぐ始めましょう
論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。