[論文レビュー] Preference-Informed Fairness

Michael P. Kim, Aleksandra Korolova+2 more|arXiv (Cornell University)|Apr 3, 2019

Ethics and Social Impacts of AI参考文献 28被引用数 5

ひとこと要約

この論文は、差別の防止を維持しながら、個人の好みに整合する結果のずれを許容することで、個人公平性（IF）を緩和する新しい公平性フレームワークであるPreference-Informed Individual Fairness（PIIF）を導入する。IFに比べて、とりわけ弱い立場にあるグループに対してより好ましい結果をもたらす一方で、 envy-freeness（EF）ほど柔軟性が高くなく、PIIF制約下での凸目的関数に対する効率的な最適化を提供する。

ABSTRACT

We study notions of fairness in decision-making systems when individuals have diverse preferences over the possible outcomes of the decisions. Our starting point is the seminal work of Dwork et al. which introduced a notion of individual fairness (IF): given a task-specific similarity metric, every pair of individuals who are similarly qualified according to the metric should receive similar outcomes. We show that when individuals have diverse preferences over outcomes, requiring IF may unintentionally lead to less-preferred outcomes for the very individuals that IF aims to protect. A natural alternative to IF is the classic notion of fair division, envy-freeness (EF): no individual should prefer another individual's outcome over their own. Although EF allows for solutions where all individuals receive a highly-preferred outcome, EF may also be overly-restrictive. For instance, if many individuals agree on the best outcome, then if any individual receives this outcome, they all must receive it, regardless of each individual's underlying qualifications for the outcome. We introduce and study a new notion of preference-informed individual fairness (PIIF) that is a relaxation of both individual fairness and envy-freeness. At a high-level, PIIF requires that outcomes satisfy IF-style constraints, but allows for deviations provided they are in line with individuals' preferences. We show that PIIF can permit outcomes that are more favorable to individuals than any IF solution, while providing considerably more flexibility to the decision-maker than EF. In addition, we show how to efficiently optimize any convex objective over the outcomes subject to PIIF for a rich class of individual preferences. Finally, we demonstrate the broad applicability of the PIIF framework by extending our definitions and algorithms to the multiple-task targeted advertising setting introduced by Dwork and Ilvento.

研究の動機と目的

• 個人が結果に対して多様な好みを持つ状況において、個人公平性（IF）が保護対象となるグループに好ましくない結果をもたらすという限界を解消すること。
• IFを、個人の好みに整合するずれを許容することで緩和する公平性概念を提案し、差別の防止保証を損なわず、個人の満足度を向上させること。
• PIIF制約下での任意の凸目的関数の効率的最適化フレームワークを構築し、実用的導入を可能とすること。
• ターゲティング広告などのマルチタスク設定にPIIFフレームワークを拡張し、広範な適用可能性を示すこと。
• アルゴリズム的システムにおける公平性、好み満足度、意思決定者の柔軟性の間のトレードオフを調査すること。

提案手法

• IFの緩和として、個人の好みに整合する場合に限り、結果の分布がIFからずれるのを許容するPreference-Informed Individual Fairness（PIIF）を提案する。
• 類似度メトリクス上のリプシッツ条件を定義し、好みに配慮した緩和を導入することで、個人が割り当てられた結果をIF準拠の代替案よりも好む場合にのみずれを許容する。
• 統計的同等性の変種として、Preference-Informed Statistical Parity（PISP）を導入し、個人が現在の結果を同等性準拠の代替案よりも好む限り、同等性からのずれを許容する。
• 凸プログラミングと好みに配慮した制約を活用することで、PIIF制約下での任意の凸目的関数の効率的最適化手順を開発する。
• ターゲティング広告などの複数の結果とタスク間での好み構造を扱えるように、PIIFをマルチタスク設定に適応して拡張する。
• 行動からの好み推定に好みの獲得技術と効用モデリングを用い、推定に伴うバイアスの可能性を認識する。

実験結果

リサーチクエスチョン

• RQ1 差別の防止保護を損なわず、多様な個人の好みをよりうまく反映できるように、個人公平性を原理的かつ緩和できるか？
• RQ2 公平性を再定義することで、類似する個人に対する不正な扱いを防ぎつつ、個人の満足度を向上させることは可能か？
• RQ3 アルゴリズム的システムにおいて、公平性、好み満足度、意思決定者の柔軟性の間のトレードオフは何か？
• RQ4 新しいPIIF公平性制約下で、結果の分布に対する効率的な最適化が達成可能か？
• RQ5 ターゲティング広告のようなマルチタスク意思決定シナリオに、PIIFフレームワークをどのように拡張できるか？

主な発見

• PIIFは、IF準拠のいかなる解よりも、とりわけ少数派の好みを持つグループに対してより好ましい結果を可能にする。
• PIIFは、同じ結果を好む個人全員に同一の結果を割り当てる必要がある envy-freeness（EF）に比べ、意思決定者にははるかに高い柔軟性を提供する。
• PIIF制約下での任意の凸目的関数の効率的最適化が可能であり、実世界への導入に計算的に現実的である。
• Preference-Informed Statistical Parity（PISP）は、標準的な統計的同等性を超えて、好みに整合するずれを許容することで、より多様な公平な解の集合を豊かにする。
• PIIFフレームワークは、結果空間が歪んでもある程度の程度でバイアスに強く、少数派が好む結果を実現可能である。
• ターゲティング広告設定における実証的検証では、PIIFが高水準の個人満足度を達成しながらも、類似度メトリクスに基づく公平性を維持できることを示している。