[論文レビュー] Composition Theorems for Interactive Differential Privacy

Xin Lyu|arXiv (Cornell University)|Jul 19, 2022

Privacy-Preserving Technologies in Data被引用数 7

ひとこと要約

本稿は、近似DP、Rényi DP、ゼロ集中DP、および切断集中DPという複数の微分プライバシーの概念について、最適な同時合成定理を確立している。攻撃者が独立したメカニズムに対してクエリを交互に実行しても、その利点は得られないことを示している。このフレームワークにより、インタラクティブな微分プライバシー機構におけるインタラクティビティが、プライバシーを保護する性質を有することが保証され、純粋DPに関する先行研究を一般化し、プライベートな推測・検証機構のような複雑な同時実行アルゴリズムのプライバシー解析を簡素化する。

ABSTRACT

An interactive mechanism is an algorithm that stores a data set and answers adaptively chosen queries to it. The mechanism is called differentially private, if any adversary cannot distinguish whether a specific individual is in the data set by interacting with the mechanism. We study composition properties of differential privacy in concurrent compositions. In this setting, an adversary interacts with k interactive mechanisms in parallel and can interleave its queries to the mechanisms arbitrarily. Previously, Vadhan and Wang [2021] proved an optimal concurrent composition theorem for pure-differential privacy. We significantly generalize and extend their results. Namely, we prove optimal parallel composition properties for several major notions of differential privacy in the literature, including approximate DP, Rényi DP, and zero-concentrated DP. Our results demonstrate that the adversary gains no advantage by interleaving its queries to independently running mechanisms. Hence, interactivity is a feature that differential privacy grants us for free. Concurrently and independently of our work, Vadhan and Zhang [2022] proved an optimal concurrent composition theorem for f-DP [Dong et al., 2022], which implies our result for the approximate DP case.

研究の動機と目的

• 微分プライバシーにおけるインタラクティブで同時実行可能なメカニズムの合成定理に関するギャップを埋めること。
• VadhanとWang（2021）の純粋DPに対する同時合成結果を、より広範な微分プライバシーの概念へと拡張すること。
• 攻撃者が独立したメカニズムに対してクエリを交互に実行しても、プライバシー上の利点を得ないことを示すこと。
• 複雑なアルゴリズムを単純なプリミティブの同時合成として扱うモジュラーなプライバシー解析フレームワークを提供すること。
• 適応的な出力に依存するプライベートな推測・検証アルゴリズムのような実用的アルゴリズムにおけるプライバシー懸念を解消すること。

提案手法

• k個の独立した微分プライバシー機構を、クエリを交互にアクセスできる1つの合成メカニズムとしてモデル化する、同時合成フレームワークを提案する。
• フレームワークを用いて、近似DP、Rényi DP、ゼロ集中DP、および切断集中DPの最適プライバシー境界を証明する。
• 既知のプライベートメカニズム（例：スパースベクトル技法、ラプラスメカニズム）をブラックボックス合成定理を用いて、同時アクセス下で組み合わせる。
• シミュレーションによる証明戦略を採用：複雑なアルゴリズムに対する任意の適応的クエリ列は、単純で独立したプライベートメカニズムとの同時インタラクションによってエミュレート可能である。
• 既存のプライバシー定理（例：Lyuら2017年、ラプラスメカニズム）を構築ブロックとして用い、合成システムがプライバシー保証を継承することを証明する。
• 同時合成におけるプライバシー劣化は、逐次合成と同等か、それより良好であることを示し、インタラクティビティがプライバシーに悪影響を及えないことを示している。

実験結果

リサーチクエスチョン

• RQ1 複数の微分プライバシー機構に対してクエリを交互に実行することは、隣接するデータセットを区別する攻撃者に何ら利点をもたらすか？
• RQ2 同時アクセス下で、近似DP、Rényi DP、ゼロ集中DPのための最適な合成定理を確立できるか？
• RQ3 スパースベクトル技法のような既存のプライバシー保護プリミティブは、適応的ノイズ追加メカニズムと同時に使用可能か？
• RQ4 プライベートな推測・検証のような複雑なアルゴリズムのプライバシー解析は、同時合成の下でも有効であるか、それとも再評価が必要か？
• RQ5 同時合成フレームワークは、複数のプライベートコンポーネントを組み合わせたシステムにおけるモジュラーなプライバシー検証に利用可能か？

主な発見

• 本稿は、k個の微分プライバシー機構の同時合成が、逐次合成と同等のプライバシー損失をもたらすことを証明しており、攻撃者がクエリを交互に実行しても利点を得ないことを示している。
• 近似DPの場合、(3ε, 0)-プライベートなSVT変種と(ε, 0)-プライベートなラプラスメカニズムを組み合わせた場合、合成メカニズムは(4ε, 0)-微分プライバシーを満たす。
• フレームワークにより、Rényi DPおよびゼロ集中DPの最適な合成定理が確立され、純粋DPに関する先行研究が一般化された。
• 解析により、微分プライバシー系におけるインタラクティビティは、プライバシーを損なわない特徴であり、適応的かつ同時クエリパターン下でも安全であることが示された。
• フレームワークにより、モジュラーなプライバシー検証が可能となり、複雑なアルゴリズムは単純で理解されたプリミティブの同時合成として分析可能である。
• プライベートな推測・検証メカニズムのような実用的アルゴリズムにおけるプライバシー解析の重要なギャップが解消された。これらはかつて、誤った合成推論によって脆弱であった。