[論文レビュー] Subjective fairness: Fairness is in the eye of the beholder

Christos Dimitrakakis, Yang Liu+2 more|arXiv (Cornell University)|May 31, 2017

Ethics and Social Impacts of AI被引用数 2

ひとこと要約

本稿は、観測データに条件づけられた分布的類似性と緩和された条件付き独立性に基づくベイジアン推論に裏打ちされた主観的公平性フレームワークを提案する。公平性は、絶対的公平性ではなく、観測された特徴量に条件づけられた結果分布の類似性として定義される。この主観的基準に基づく公平性を達成するためのアルゴリズムが導入され、小さな実験的検証を通じて実現可能性が示されている。

ABSTRACT

We introduce a natural, and widely applicable framework for fairnessthat relies on the available information. We develop algorithms for achievinga few different notions of fairness within a subjective framework, and in particularrecently proposed concepts of fairness that are grounded in concepts ofsimilarity and conditional independence. We argue that a suitable notion ofsimilarity in the Bayesian setting is distributional similarity conditioned on theobservations. For the latter, as independence is difficult to achieve uniformlyin the Bayesian setting, we suggest a relaxation, for which we provide a smallexperimental demonstration.

研究の動機と目的

• 客観的公平性定義の限界を克服するため、公平性を観察者の知識と利用可能な情報に根ざさせること。
• 観測データのレベルに応じて変化する文脈に適応可能な、公平性のフレームワークを構築すること。
• 観測に条件づけられた分布的類似性を、主観的公平性の指標として形式化すること。
• ベイジアン公平性における厳密な条件付き独立性の要件を緩和し、実用的実装を可能にすること。
• 提案された公平性フレームワークを実証的に検証するための小規模な実験的デモを提供すること。

提案手法

• 絶対的公平性ではなく、観測特徴量に条件づけられた結果分布の類似性に基づいて公平性を定義すること。
• ベイジアン条件付き確率を用いて、観測データの蓄積に伴い公平性に関する信念がどのように変化するかをモデル化すること。
• 実装可能性を高めるために、条件付き独立性の緩和を導入すること。
• 予測値を条件付き分布の類似性に基づいて調整することで、公平性を強制するアルゴリズムを設計すること。
• 実装可能性と性能を評価するため、小さな実験的設定にこのフレームワークを適用すること。

実験結果

リサーチクエスチョン

• RQ1 観察者の知識と利用可能な情報に依存する公平性を、どのように意味的に定義できるか？
• RQ2 ベイジアンフレームワークにおいて、公平性を評価するにあたり、適切な類似性の概念とは何か？
• RQ3 公平性を保ちつつ計算的に実行可能であるように、条件付き独立性をどのように緩和できるか？
• RQ4 主観的公平性フレームワークは、実証的デモを通じて実装可能かつ検証可能か？

主な発見

• 観測に条件づけられた分布的類似性に基づく主観的公平性は、客観的公平性定義に対する柔軟で文脈に適応可能な代替手段を提供する。
• 厳密な条件付き独立性の要件を緩和することで、ベイジアンモデルにおける公平性制約の実用的実装が可能になる。
• 小さな実験的検証を通じて、フレームワークの実現可能性が示され、現実的な制約下でも公平性が達成可能であることが確認された。
• 提案されたアプローチにより、公平性を観察者の情報セットに合わせてカスタマイズ可能となり、実世界の応用における適応性が向上する。