[論文レビュー] Correspondences between Privacy and Nondiscrimination: Why They Should Be Studied Together

Anupam Datta, Shayak Sen+1 more|arXiv (Cornell University)|Aug 6, 2018

Ethics and Social Impacts of AI参考文献 35被引用数 3

ひとこと要約

本稿は、プライバシーと差別のなしの両概念が、それぞれ関連的（統計的依存性）および因果的（因果的影響）の2つの形態を有し、構造的に同一であることを示すことにより、両者の間で形式的な数学的対応関係を確立している。また、微分プライバシーの技法が公平性の検証に直接応用可能であり、逆に公平性の技法がプライバシー分野に応用可能であることを示しており、両分野間での手法の相互浸透を可能にしている。

ABSTRACT

Privacy and nondiscrimination are related but different. We make this observation precise in two ways. First, we show that both privacy and nondiscrimination have two versions, a causal version and a statical associative version, with each version corresponding to a competing view of the proper goal of privacy or nondiscrimination. Second, for each version, we show that a difference between the privacy edition of the version and the nondiscrimination edition of the version is related to the difference between Bayesian probabilities and frequentist probabilities. In particular, privacy admits both Bayesian and frequentist interpretations whereas nondiscrimination is limited to the frequentist interpretation. We show how the introduced correspondence allows results from one area of research to be used for the other.

研究の動機と目的

• 関連的（統計的依存性）および因果的（因果的影響）の2つのバリエーションを有する共通の構造的形態を同定することにより、プライバシーと差別のなしの関係を形式化すること。
• 関連的プライバシーと関連的差別のなしの核心的な数学的定式化が同一であり、因果的プライバシーと因果的差別のなしの定式化も同一であることを示すこと。
• この構造的対応関係を活用して、プライバシーと公平性研究の間で手法と証明を相互に利用可能にする。
• 社会的意図においてはプライバシーと差別のなしは別個のものであるが、形式的モデルにおいては主な側面で同型的であることを強調すること。
• アルゴリズムの公平性とデータ保護分野における進捗を加速させ、重複作業を回避するため、プライバシーと差別のなしの統合的研究を提唱すること。

提案手法

• 各規範について2つの立場を定義する：関連的（確率的依存性に基づく）および因果的（因果的介入に基づく）、確率論を用いて。
• 微分プライバシー（因果的プライバシー）と差別的取り扱い（因果的差別のなし）を、Pearlの因果フレームワークにインspiredしたdo記法と介入ベースのモデルにマッピングする。
• 統計的非開示（関連的プライバシー）と差別的影響（関連的差別のなし）を、背景知識下での確率的独立性および条件付き独立性にマッピングする。
• 形式的記法（例：D′ ⊥ X | B）を用いて統計的スクラブビングを表現し、入力を感受性属性から独立になるように変換することを保証する。
• 確率的カップリングと一般化された距離測度を用いて、距離関数に基づく近接入力への微分プライバシーおよび公平性の概念の拡張を行う。
• Dwork–Naorの不可能性結果を適用し、すべてのサブグループにおいて差別的影響がないことを保証することは根本的にな不可能であることを示し、プライバシー分野の結果を公平性分野に翻訳する。

実験結果

リサーチクエスチョン

• RQ1 プライバシーと差別のなしの関連的および因果的バリエーションが、形式的・数学的レベルでどのように関係しているか？
• RQ2 微分プライバシーの結果を、差別的影響の検出といった公平性分野の問題に直接応用できるか？
• RQ3 ベイズ的および頻度的確率解釈の違いが、プライバシーと差別のなしの枠組みを区別する上で果たす役割は何か？
• RQ4 確率的カップリングや統計的スクラブビングといった技術が、プライバシーと公平性研究の間でどの程度共有可能か？
• RQ5 プライバシーと差別のなしの間の構造的対応関係が、両分野における新しい証明や洞察をどのように可能にするか？

主な発見

• 関連的プライバシーと関連的差別のなしの数学的構造は同一であり、両者とも条件付き独立性に還元される：D′ ⊥ X | B。
• 因果的プライバシー（例：微分プライバシー）と因果的差別のなし（例：差別的取り扱い）の数学的構造は同型的であり、両者とも介入に基づく推論に依存する。
• Dwork–Naorの不可能性結果は、すべてのサブグループにおいて差別的影響がないことを保証することは根本的に不可能であることを示しており、これはプライバシー分野の結果が公平性分野に翻訳されたものである。
• 統計的スクラブビング（感受性属性から独立になるようにデータを変換すること）は、公平性を達成する手段として利用可能であり、関連的プライバシーの一種と形式的に同等である。
• 微分プライバシーにおける一般化された距離測度（例：入力距離におけるリプシッツ連続性）は、公平性定義にも直接応用可能であり、類似した個体が類似した方法で扱われるよう保証する。
• 微分プライバシーの検証に用いられる確率的カップリングは、機械学習における直接的差別や構造的バイアスといった重要な公平性定義の背後にある根拠でもある。