[论文解读] Correspondences between Privacy and Nondiscrimination: Why They Should Be Studied Together

Anupam Datta, Shayak Sen+1 more|arXiv (Cornell University)|Aug 6, 2018

Ethics and Social Impacts of AI参考文献 35被引用 3

一句话总结

本文通過證明隱私與非歧視兩者均存在兩種形式——關聯性（統計依賴）與因果性（因果影響），從而建立兩者之間的正式數學對應關係，揭示了兩者在結構形式上完全相同。本文表明，微擾差異隱私的技術可直接應用於公平性驗證，反之亦然，從而促進兩大領域之間的方法互饋與跨學科進展。

ABSTRACT

Privacy and nondiscrimination are related but different. We make this observation precise in two ways. First, we show that both privacy and nondiscrimination have two versions, a causal version and a statical associative version, with each version corresponding to a competing view of the proper goal of privacy or nondiscrimination. Second, for each version, we show that a difference between the privacy edition of the version and the nondiscrimination edition of the version is related to the difference between Bayesian probabilities and frequentist probabilities. In particular, privacy admits both Bayesian and frequentist interpretations whereas nondiscrimination is limited to the frequentist interpretation. We show how the introduced correspondence allows results from one area of research to be used for the other.

研究动机与目标

• 透過識別其共通的結構形式——關聯性與因果性變體，正式化隱私與非歧視之間的關係。
• 證明關聯性隱私與關聯性非歧視的核心數學公式完全相同，因果性隱私與因果性非歧視的公式亦完全相同。
• 透過利用此結構對應關係，實現隱私與公平性研究之間的方法與證明的交叉應用。
• 強調儘管隱私與非歧視在社會意圖上有所不同，但其形式模型在關鍵方面具有同構性。
• 主張應整合隱私與非歧視的研究，以避免重複努力，並加速演算法公平性與資料保護領域的進展。

提出的方法

• 為每一種規範定義兩種立場：關聯性（基於機率依賴）與因果性（基於因果干預），使用機率論。
• 將微擾差異隱私（因果性隱私）與差異待遇（因果性非歧視）映射至 do-演算與基於干預的模型，受 Pearl 的因果框架啟發。
• 將統計非披露（關聯性隱私）與差異影響（關聯性非歧視）映射至背景知識下的機率獨立性與條件獨立性。
• 使用正式符號（例如 D′ ⊥ X | B）表示統計清洗，其中輸入被轉換以確保與敏感屬性獨立。
• 利用機率耦合與廣義距離度量，將微擾差異隱私與公平性概念延伸至基於距離函數的鄰近輸入。
• 應用 Dwork–Naor 無可能結果，證明在所有子群體中確保無差異影響在根本上是不可能的，從而將一項隱私結果轉譯至公平性領域。

实验结果

研究问题

• RQ1 在正式的數學層次上，隱私與非歧視的關聯性與因果性變體之間有何關係？
• RQ2 微擾差異隱私的結果能否直接應用於公平性問題，例如檢測差異影響？
• RQ3 貝葉斯與頻率學派機率解釋在區分隱私與非歧視框架中扮演何種角色？
• RQ4 機率耦合與統計清洗等技術在多大程度上可於隱私與公平性研究之間共享？
• RQ5 隱私與非歧視之間的結構對應關係如何促進兩大領域的新證明或新洞見？

主要发现

• 關聯性隱私與關聯性非歧視的數學結構完全相同，兩者均簡化為條件獨立性：D′ ⊥ X | B。
• 因果性隱私（例如微擾差異隱私）與因果性非歧視（例如差異待遇）的數學結構同構，兩者均依賴於基於干預的推理。
• Dwork–Naor 無可能結果適用於微擾差異隱私，意味著在所有子群體中確保無差異影響在根本上是不可能的。
• 統計清洗——轉換資料以確保與敏感屬性獨立——可用於實現公平性，且在形式上等價於一種關聯性隱私形式。
• 微擾差異隱私中的廣義距離度量（例如輸入距離上的利普希茨連續性）可直接應用於公平性定義，確保相似個體獲得相似對待。
• 用於驗證微擾差異隱私的機率耦合，同樣支撐關鍵公平性定義，如直接歧視與機器學習中的結構性偏見。