[論文レビュー] Triangle Counting with Local Edge Differential Privacy

Talya Eden, Quanquan C. Liu+2 more|arXiv (Cornell University)|Jan 1, 2023

Privacy-Preserving Technologies in Data被引用数 3

ひとこと要約

この論文は、局所的辺微分プライバシー（LEDP）における三角形カウントの加法的誤差について、タイトな境界を確立する。非インタラクティブモデルではΩ(n²)の下界を証明し、インタラクティブモデルではΩ(n³/²/ε)の下界を示す。線形クエリを用いた新たな再構築攻撃と、ミックスアンドマッチ戦略を導入し、ランダム化応答に基づく推定における分散のタイトな境界を達成した。これにより、局所的プライバシー制約下での微分プライベートグラフ解析分野の最先端技術が著しく進展した。

ABSTRACT

Many deployments of differential privacy in industry are in the local model, where each party releases its private information via a differentially private randomizer. We study triangle counting in the local model with edge differential privacy (that, intuitively, requires that the outputs of the algorithm on graphs that differ in one edge be indistinguishable). In this model, each party's local view consists of the adjacency list of one vertex. We investigate both noninteractive and interactive variants of the model. In the noninteractive model, we prove that additive $Ω(n^2)$ error is necessary for sufficiently small constant $\varepsilon$, where $n$ is the number of nodes and $\varepsilon$ is the privacy parameter. This lower bound is our main technical contribution. It uses a reconstruction attack with a new class of linear queries and a novel mix-and-match strategy of running the local randomizers with different completions of their adjacency lists. It matches the additive error of the algorithm based on Randomized Response, proposed by Imola, Murakami and Chaudhuri (USENIX2021) and analyzed by Imola, Murakami and Chaudhuri (CCS2022) for constant $\varepsilon$. We use a different postprocessing of Randomized Response and provide tight bounds on the variance of the resulting algorithm. In the interactive setting, we prove a lower bound of $Ω(n^{3/2}/\varepsilon)$ on the additive error for $\varepsilon\leq 1$. Previously, no hardness results were known for interactive, edge-private algorithms in the local model, except for those that follow trivially from the results for the central model. Our work significantly improves on the state of the art in differentially private graph analysis in the local model.

研究の動機と目的

• 局所モデルにおける辺微分プライバシーを満たす三角形カウントにおける加法的誤差の根本的限界を理解すること。
• 特に定数εの場合に、非インタラクティブLEDPアルゴリズムの既存の上界と下界のギャップを埋めること。
• これまで未知であった、局所モデルにおけるインタラクティブLEDPアルゴリズムに対する最初の非自明な下界を確立すること。
• よりタイトな分散解析と後処理を用いて、既存のランダム化応答に基づく推定器の精度を向上させること。
• 誤差境界がnおよびεに関してタイトであり、定数εの場合に既存の最良の上界と一致することを示すこと。

提案手法

• 局所ランダマイザーにおける情報漏洩を分析するため、新しいクラスの線形クエリを用いた新たな再構築攻撃を考案する。
• 隣接リストの異なる完成形に対して局所ランダマイザーを実行することで、プライバシー違反を強化する「ミックスアンドマッチ」戦略を導入する。
• 再構築攻撃を用いて、十分に小さな定数εに対して、非インタラクティブLEDPアルゴリズムにおけるΩ(n²)の加法的誤差下界を証明する。
• 新しい後処理手法を用いたランダム化応答ベースの推定器の分散を分析し、加法的誤差のタイトな境界を達成する。
• インタラクティブモデルにおいて、三角形カウント問題を局所和問題（SUMn）に還元して下界を導出する。
• 既知のΩ(√n/ε)の下界を持つ局所和問題への還元を用い、インタラクティブLEDPモデルにおける三角形カウントに対してΩ(n³/²/ε)の下界を証明する。

実験結果

リサーチクエスチョン

• RQ1 非インタラクティブな局所的辺微分プライバシーを満たすアルゴリズムによる三角形カウントで、達成可能な最小の加法的誤差は何か？
• RQ2 局所モデルにおいて、ランダム化応答に基づく推定器の誤差はタイトに境界づけられるか？また、後処理は分散にどのように影響するか？
• RQ3 インタラクティブな局所的辺微分プライバシーを満たすアルゴリズムによる三角形カウントにおける精度の根本的限界は何か？
• RQ4 本研究以前にこのような結果が得られていなかったにもかかわらず、局所モデルにおけるインタラクティブLEDPアルゴリズムに対して非自明な下界を証明することは可能か？
• RQ5 非インタラクティブおよびインタラクティブな設定下で、エッジ微分プライバシーのもと、誤差境界はnおよびεに関してどのようにスケーリングするか？

主な発見

• 本論文は、εが十分に小さな定数の場合に、非インタラクティブな局所的辺微分プライバシーを満たす三角形カウントアルゴリズムに対して、タイトなΩ(n²)の加法的誤差下界を確立した。
• この下界は、線形クエリを用いた新たな再構築攻撃と、隣接リストの完成形に対するミックスアンドマッチ戦略によって達成された。
• 著者らは、ランダム化応答に基づく推定器に対してタイトな分散解析を提供し、その加法的誤差が定数εの場合に既存の最良の上界と一致することを示した。
• インタラクティブモデルでは、ε ≤ 1の場合に、加法的誤差に対して初めて非自明なΩ(n³/²/ε)の下界を証明した。これは定数倍の要因を除いてタイトである。
• インタラクティブな下界は、既知の文献からの下界を活用した局所和問題への還元を用いて導出された。
• 本研究の結果により、非インタラクティブおよびインタラクティブな両モデルにおいて、上界と下界のギャップが埋められ、局所的プライバシー下での微分プライベートグラフ解析分野における最先端技術が著しく向上した。