[論文レビュー] Contrastive Algorithmic Fairness: Part 1 (Theory)

Tapabrata Chakraborti, Arijit Patra+1 more|arXiv (Cornell University)|May 17, 2019

Ethics and Social Impacts of AI参考文献 15被引用数 2

ひとこと要約

本稿は、アルゴリズム意思決定における対照的公平性のための因果推論フレームワークを導入し、『なぜこれだが、それではないのか？』という問いに応えるために、結果間の反事後的対比をモデル化することで、『なぜこれだが、それではないのか？』という問いに応える。公平性は構造的因果モデルを用いて形式化され、意思決定が正当性に基づいているのか、保護属性に基づいているのかを評価する理論的基盤を提供し、現実世界の機械学習意思決定における公平性の評価に役立てる。

ABSTRACT

Was it fair that Harry was hired but not Barry? Was it fair that Pam was fired instead of Sam? How can one ensure fairness when an intelligent algorithm takes these decisions instead of a human? How can one ensure that the decisions were taken based on merit and not on protected attributes like race or sex? These are the questions that must be answered now that many decisions in real life can be made through machine learning. However research in fairness of algorithms has focused on the counterfactual questions what if? or why?, whereas in real life most subjective questions of consequence are contrastive: why this but not that?. We introduce concepts and mathematical tools using causal inference to address contrastive fairness in algorithmic decision-making with illustrative examples.

研究の動機と目的

• アルゴリズム的意思決定における『なぜこれだが、それではないのか？』という問いに焦点を当てた公平性研究のギャップを埋める。
• 特定の結果の対比（たとえば、類似した正当性を持つ個人のうち、1人が採用されたがもう1人がそうでない）を分析することで、意思決定における公平性を形式化する。
• 構造的因果モデルに裏付けられた理論的フレームワークを構築し、意思決定が保護属性の影響を受けるのではなく、正当性に基づいているかどうかを評価する。
• 意思決定が本質的に対照的である現実世界の機械学習システムにおける公平性を評価するための数学的ツールを提供する。
• 一般の反事後的公平性から対照的公平性への公平性のパラダイム転換を図り、人間が実際の状況で公平性を評価する方法と整合させる。

提案手法

• 意思決定プロセスと保護属性（例：人種、性別）および正当性の役割を表すために、構造的因果モデル（SCM）を用いる。
• 2人の個人間の反事後的比較に基づいて対照的公平性を定義する：1人は結果を得たが、もう1人は得なかった。両者とも正当性は同一だが、保護属性が異なる。
• do計算と干渉に基づく推論を用い、『なぜAがBより選ばれたのか？』という対照的問いに対して、意思決定が公平である確率を計算する。
• 保護属性への干渉に基づく潜在的結果の差に依存する公平性指標を導入し、意思決定がバイアスによって駆動されていないことを保証する。
• 正当性が結果の共通原因であり、保護属性が公平性評価において制御すべき交絡要因である因果グラフとして意思決定プロセスをモデル化する。
• 潜在的結果フレームワークを用いて、『公平性』を保護属性の影響が対照的意思決定において存在しないこととして形式化する。

実験結果

リサーチクエスチョン

• RQ1 意思決定における中心的問いが『なぜこれだが、それではないのか？』である場合、アルゴリズム的意思決定における公平性はどのように評価できるか？
• RQ2 因果推論を用いて対照的公平性をモデル化する数学的フレームワークは何か？ これにより、正当性に基づく意思決定とバイアスに基づく意思決定を区別できるか？
• RQ3 意思決定において保護属性を正当性から分離するにはどうすればよいか？ これにより、対照的比較における公平性を保証できるか？
• RQ4 因果モデルにおいて、意思決定が対照的に公平と見なされるために満たすべき条件は何か？
• RQ5 現実世界の意思決定文脈において、対照的公平性は従来の反事後的公平性とどのように異なるか？

主な発見

• 本稿は、構造的因果モデルを用いた対照的公平性の正式な定義が可能であることを確立し、採用や解雇のような意思決定における公平性の正確な評価を可能にする。
• 対照的意思決定における公平性は、正当性を一定に保った状態で保護属性が結果に影響するかどうかに依存することを示している。
• 保護属性を唯一変更した場合に結果が逆転する場合、すなわち正当性が同一でも、意思決定が対照的に不公平であると示している。
• 本手法は、平均的な公平性だけでなく、特定の高影響度の対照的ケースにおける公平性についても、アルゴリズムの監査の理論的基盤を提供する。
• 従来の公平性指標では、対照的比較においてのみ顕在化する重要なバイアスパターンを逃す可能性があることが明らかになった。
• 本稿は、現実の意思決定における人間の公平性の直感と整合する公平性評価のための形式的言語を貢献している。