[論文レビュー] A Note on Differential Privacy: Defining Resistance to Arbitrary Side Information

Shiva Prasad Kasiviswanathan, Adam Smith|arXiv (Cornell University)|Jan 1, 2008

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本稿は、微分プライバシーにおける任意の付加的情報に対する耐性を形式的に定義し、いくつかの緩和された微分プライバシー定義が本質的にこの耐性基準を満たしていることを確立している。本稿は、ベイズ的耐性特性の最初の明示的定式化を提供し、緩和されたDP定義に対してその有効性を証明しており、多様な敵対的知識状況下でのプライバシー保証を強化する。

ABSTRACT

In this note we give a precise formulation of resistance to arbitrary side information and show that several relaxations of differential privacy imply it. The formulation follows the ideas originally due to Dwork and McSherry, stated implicitly in [Dw06]. This is, to our knowledge, the first place such a formulation appears explicitly. The proof that relaxed definitions satisfy the Bayesian formulation is new.

研究の動機と目的

• 微分プライバシーにおける任意の付加的情報に対する耐性を形式的に定義し、DworkとMcSherryの基礎的研究を拡張すること。
• 緩和された微分プライバシー定義（例：近似プライバシーおよび分布的プライバシー）が、この耐性特性を満たしていることを確立すること。
• 敵対者の事前知識を考慮に入れたプライバシー耐性の厳密なベイズ的定式化を提供すること。
• この耐性が追加の仮定ではなく、緩和されたDP定義の結果であることを示すこと。

提案手法

• 本稿は、敵対者の感受性データに関する事前信念をモデル化することで、付加的情報に対する耐性をベイズ的枠組みを用いて定式化する。
• 敵対者がプライバシー機構の出力を観測した後、感受性データに関する事後信念が著しく向上しないことを保証する明確な数学的条件を導入する。
• 著者らは、緩和された微分プライバシー定義（例：(ε,δ)-DP、分布的DP）が、このベイズ的耐性条件をどのように満たすかを分析する。
• 証明技法として、機構の出力下での事後オッズと事前オッズの比を抑え、緩和されたDP下でもその比が有界のままであることを示す。
• この定式化は、Dwork（2006）の以前の暗黙的な概念と整合しており、一般化していることが示される。
• 本稿は測度論的確率論を用いて、任意の付加的情報を扱えるようにプライバシー条件を形式化する。

実験結果

リサーチクエスチョン

• RQ1 微分プライバシーを、敵対的事前知識を含む任意の付加的情報に対しても耐性を持つように形式的に定義できるか？
• RQ2 緩和された微分プライバシー定義（例：(ε,δ)-DP、分布的DP）は、任意の付加的情報に対して本質的に耐性を持つのか？
• RQ3 感受性データに関する推論に事前信念の影響を捉えるベイズ的定式化は存在するか？
• RQ4 提案された定式化は、先行研究における暗黙のロバストプライバシーの概念をどのように一般化し、拡張するか？
• RQ5 付加的情報に対する耐性は、追加の仮定ではなく、緩和されたDP定義の結果として証明できるか？

主な発見

• 本稿は、ベイズ的推論に基づいた、微分プライバシーにおける任意の付加的情報に対する耐性の最初の明示的定式化を提供する。
• いくつかの緩和された微分プライバシー定義、特に(ε,δ)-DPおよび分布的DPが、提案された耐性条件を満たすことが証明された。
• 耐性特性が緩和されたDP定義の自然な結果であることが示され、追加の要件ではない。
• この定式化は、DworkとMcSherry（2006）の以前の暗黙のアイデアを一般化・形式化し、明示的かつ数学的に厳密なものにした。
• 証明により、任意の事前知識が存在しても、プライバシー機構が感受性データに関する敵対者の信念の精錬を制限することが示された。