[論文レビュー] Individual Fairness In Strategic Classification

Zhiqun Zuo, Mohammad Mahdi Khalili|arXiv (Cornell University)|Feb 4, 2026

Ethics and Social Impacts of AI被引用数 0

ひとこと要約

この論文は決定論的閾値分類器が戦略的設定において個別の公平性を侵害することを示し、個別の公平性を実現する最適化可能なランダム閾値アプローチを提案（グループ公平性への任意拡張を含む）し、線形計画法の定式化を用いる。

ABSTRACT

Strategic classification, where individuals modify their features to influence machine learning (ML) decisions, presents critical fairness challenges. While group fairness in this setting has been widely studied, individual fairness remains underexplored. We analyze threshold-based classifiers and prove that deterministic thresholds violate individual fairness. Then, we investigate the possibility of using a randomized classifier to achieve individual fairness. We introduce conditions under which a randomized classifier ensures individual fairness and leverage these conditions to find an optimal and individually fair randomized classifier through a linear programming problem. Additionally, we demonstrate that our approach can be extended to group fairness notions. Experiments on real-world datasets confirm that our method effectively mitigates unfairness and improves the fairness-accuracy trade-off.

研究の動機と目的

• 個人が機械学習の決定に影響を与えるよう特徴を戦略的に変更する際の公平性の課題を調査する。
• 決定論的閾値分類器が戦略的設定で個別の公平性を侵害することを実証する。
• 特定の条件下で個別の公平性を保証できるランダム閾値フレームワークを提案する。
• 最適な公平なランダム分類器を見つける効率的な線形計画法を開発する。
• フレームワークをグループ公平性の制約へ拡張し、実用性を示す。

提案手法

• スコア l(x) に閾値を設定した戦略的二値分類モデルと最良反応コスト関数を用いる。
• 決定論的閾値 f(x;t) が非連続な BRC を引き起こし、個別の公平性を破ることを示す。
• 閾値分布 p(t) を持つランダム閾値分類器を導入し、個別の公平性を達成する条件（定理 3.2）を導出する。
• t を K 区間に離散化して公正性境界を最小化する期待誤差を目的関数とした線形計画法として、最適な公正ランダム分類器を定式化する（式(16)）。
• データから最適閾値分布を学習するアルゴリズム（Algorithm 1）と、分布を用いて予測を推定するアルゴリズム（Algorithm 2）を提供する。
• 多グループ設定へ拡張し、統計的平等性をターゲットにし、同等機会や同等化オッズを議論する（セクション 5）。

Figure 1: Estimated $\Pr\{\textit{bar\_pass}=1|\textit{zgpa}\}$

実験結果

リサーチクエスチョン

• RQ1 決定論的閾値ベースの分類器は戦略的分類において個別の公平性を漏らす可能性があるか。
• RQ2 どの条件下でランダム閾値が最良反応コストに関して個別の公平性を保証できるか。
• RQ3 線形計画法を用いて最適な公正ランダム分類器を効率的に計算できるか。
• RQ4 フレームワークをグループ公平性と併せて達成できるか。
• RQ5 提案されたランダムアプローチを実データセットに適用した場合の精度と公平性指標への影響はどうなるか。

主な発見

• 決定論的閾値分類器は逆リプシッツ性の下で最大コストに対する個別の公平性を満たさないことがある。
• 閾値分布 p(t) が定数 Lc で界づけられる場合（結果の公平性は Lp に対して同様に）に対して、ランダム閾値分類器は個別の公平性を保証できる。
• 最適な公正ランダム分類器は K 個の閾値区間を用いた線形計画法を解くことで得られ、公平性制約の下で期待誤差を最小化する。
• 実データセット上の経験的結果は、個別の公平性（IF比の低減）で大幅な改善を示し、F1スコアの低下は最小限にとどまり、平等性を含むグループ公平性指標の潜在的な向上が見られる。
• フレームワークは最適化問題に追加の制約を付与することで統計的平等性・同等機会・同等オッズといったグループ公平性目標にも対応できる。