[論文レビュー] On the (im)possibility of fairness
本論文は、構成空間、観測空間、意思決定空間を導入したアルゴリズム的公平性の空間ベースの形式フレームワークを開発し、公平性の保証が構成と観測の関係に関する強い世界観（WYSIWYG 対 WAE）に依存することを示す。さらに、構造的バイアスと差別の概念を定義し、公平なまたは非差別的なメカニズムが保証され得る条件を分析する。
What does it mean for an algorithm to be fair? Different papers use different notions of algorithmic fairness, and although these appear internally consistent, they also seem mutually incompatible. We present a mathematical setting in which the distinctions in previous papers can be made formal. In addition to characterizing the spaces of inputs (the "observed" space) and outputs (the "decision" space), we introduce the notion of a construct space: a space that captures unobservable, but meaningful variables for the prediction. We show that in order to prove desirable properties of the entire decision-making process, different mechanisms for fairness require different assumptions about the nature of the mapping from construct space to decision space. The results in this paper imply that future treatments of algorithmic fairness should more explicitly state assumptions about the relationship between constructs and observations.
研究の動機と目的
- 構成空間、観測空間、意思決定空間間の変換としての公平性の数学理論を導入する。
- 空間がどのように相互作用するか、ゆがみ（歪み）が公平性と差別にどう影響するかを特徴づける。
- 構成−観測写像に関する強い仮定が公平性の保証を要求することを証明する。
- 世界観（WYSIWYG 対 WAE）を区別し、それらを公平性の概念とメカニズムに結びつける。
- 厳密な空間ベースの設定において、構造的バイアスと直接的/非差別を定義し、定量化する。」,
- method':['構成空間、観測空間、意思決定空間を関連指標とともに定義する。','空間を比較するために、歪み、結合測度、ワッサースタイン距離、グロモフ-ワッサースタイン距離を導入する。','構成空間と意思決定空間の近さの保持として公正を形式的に定義する。','世界観を提示: WYSIWYG（構成≈観測）とWAE（私たちは皆等しい）とその含意。','メカニズムを定義: 個人公正メカニズム(IFM)と集団公正メカニズム(GFM)。','WYSIWYG の下で、擾乱を伴うIFMが公平性の保証をもたらすことを証明し、より弱い仮定の下での限界を論じる。'],
- research_questions':['意思決定が構成空間・観測空間・意思決定空間の間を写すとき、公平性をどのように形式化できるか？','この三部空間フレームワークで、どのような仮定のもとで公平性の保証が達成されるか、あるいは失敗するか？','構造的バイアスとグループ差が空間間の写像と結果としての公平性にどう影響するか？','異なる世界観（WYSIWYG vs. WAE）が、公正または非差別的なメカニズムの設計にどう影響するか？'],
- key_findings':['公平性の保証は、構成空間と観測空間の関係に関する強い仮定に依存する。','小さな歪みの下で、適切なメカニズムに対してWYSIWYGの世界観は公平性の保証を生みうる。','構造的バイアスは、空間間のグループ歪みによって定量化され、非差別評価に影響を及ぼす。','この空間フレームワークには、個別の公正メカニズムと集団公正メカニズムの根本的な区別がある。','ほとんどの公平性手法は特定の空間関係を暗黙のうちに仮定しているが、本フレームワークはそれを明示的にする。'],
- table_headers:[]
- table_rows:[]
より良い研究を、今すぐ始めましょう
論文設計から論文執筆まで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。