[論文レビュー] Hypothesis Testing Interpretations and Renyi Differential Privacy

Borja Balle, Gilles Barthe+3 more|arXiv (Cornell University)|May 24, 2019

Privacy-Preserving Technologies in Data参考文献 25被引用数 21

ひとこと要約

この論文は、統計的発散度に基づくプライバシー定義の仮説検定解釈を分析するため、k-カットおよびk-生成発散度の概念を導入する。プライバシー定義が仮説検定解釈を許容するための必要十分条件として、基礎となる発散度が2-生成であること、すなわち、Rényi微分プライバシーは∞-生成であるため直接的な仮説検定解釈を支持しないが、Rényi発散度の2-カットにより有効な解釈が可能となり、Rényi微分プライバシーから標準的微分プライバシーへの変換ルールが改善されることを示している。

ABSTRACT

Differential privacy is a de facto standard in data privacy, with applications in the public and private sectors. A way to explain differential privacy, which is particularly appealing to statistician and social scientists is by means of its statistical hypothesis testing interpretation. Informally, one cannot effectively test whether a specific individual has contributed her data by observing the output of a private mechanism---any test cannot have both high significance and high power. In this paper, we identify some conditions under which a privacy definition given in terms of a statistical divergence satisfies a similar interpretation. These conditions are useful to analyze the distinguishability power of divergences and we use them to study the hypothesis testing interpretation of some relaxations of differential privacy based on Renyi divergence. This analysis also results in an improved conversion rule between these definitions and differential privacy.

研究の動機と目的

• 統計的発散度に基づくプライバシー定義が仮説検定解釈を支持するための条件を形式化すること。
• Rényi発散度に基づくRényi微分プライバシーの仮説検定意味論を分析すること。
• 発散度の識別力の特徴づけに用いる分析的ツール「k-カット」と「k-生成性」を構築すること。
• Rényi微分プライバシーから標準的(ε,δ)-微分プライバシーへの改善された変換ルールを導出すること。
• 仮説検定解釈の観点から、Rényi微分プライバシーとガウス微分プライバシーの関係を比較すること。

提案手法

• k個の結果を持つ意思決定ルールをモデル化するため、発散度をサイズkの有限ドメインへの制限として定義するk-カットを導入する。
• 発散度が自身のk-カットと等しくなる性質をk-生成性として定義し、その発散度を完全に特徴付けるために必要な最小の意思決定数を捉える。
• プライバシー定義が仮説検定解釈を有するための必要十分条件が、基礎となる発散度が2-生成であること、すなわち、先行研究におけるプライバシー領域と関連付けることを証明する。
• Rényi発散度の2-カットを適用して、Rényi微分プライバシーに対する有効な仮説検定解釈を回復する。
• Rényi発散度の2-カットを用いて、Rényi微分プライバシーから(ε,δ)-微分プライバシーへのより緊密な変換ルールを導出する。
• k分割上での準凸関数の上限として定義される発散度はk-生成であることを示し、仮説検定意味論を有する発散度の一般的構築法を提供する。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で、発散度に基づくプライバシー定義が仮説検定解釈を許容するか？
• RQ2 Rényi微分プライバシーは人気が高いが、なぜ直接的な仮説検定解釈を支持しないのか？
• RQ3 Rényi発散度の2-カットは、Rényi微分プライバシーに対して有効な仮説検定解釈を回復できるか？
• RQ4 Rényi微分プライバシーから標準的(ε,δ)-微分プライバシーへの改善された変換ルールをどのように導出できるか？
• RQ5 仮説検定意味論の観点から、Rényi微分プライバシーとガウス微分プライバシーの関係は何か？

主な発見

• 発散度に基づくプライバシー定義が仮説検定解釈を許容するのは、その発散度が2-生成であるとき、かつそのときに限り成り立つ。
• Rényi発散度は∞-生成であるため、直接的な仮説検定解釈を許容しないが、その2-カットは許容する。
• Rényi発散度の2-カットにより、有効な仮説検定解釈が可能となり、元の定式化で失われた統計的意味論が効果的に回復される。
• 2-カットを用いて、Rényi微分プライバシーから(ε,δ)-微分プライバシーへの改善された変換ルールが導出され、従来の手法よりも緊密な境界が得られる。
• ハリントン距離は∞-生成であるが、ハリントン距離から(ε,δ)-DPへの最適な変換則が導出され、δ(ε,ρ)がεとρの関数として明示的に定義される。
• 本論文では、k分割上での準凸関数の上限として定義される発散度がk-生成であることを確立し、仮説検定意味論を有する発散度の一般的構築法を提供する。