[论文解读] Triangle Counting with Local Edge Differential Privacy

Talya Eden, Quanquan C. Liu+2 more|arXiv (Cornell University)|Jan 1, 2023

Privacy-Preserving Technologies in Data被引用 3

一句话总结

本文在局部边差分隐私（LEDP）下建立了三角形计数的加法误差的紧致界，证明了在非交互式模型中下界为 Ω(n²)，在交互式模型中下界为 Ω(n³/²/ε)。本文提出了一种新颖的重建攻击，结合线性查询与混搭策略，实现了基于随机响应的估计中紧致的方差界，显著推进了局部隐私约束下差分隐私图分析的最新进展。

ABSTRACT

Many deployments of differential privacy in industry are in the local model, where each party releases its private information via a differentially private randomizer. We study triangle counting in the local model with edge differential privacy (that, intuitively, requires that the outputs of the algorithm on graphs that differ in one edge be indistinguishable). In this model, each party's local view consists of the adjacency list of one vertex. We investigate both noninteractive and interactive variants of the model. In the noninteractive model, we prove that additive $Ω(n^2)$ error is necessary for sufficiently small constant $\varepsilon$, where $n$ is the number of nodes and $\varepsilon$ is the privacy parameter. This lower bound is our main technical contribution. It uses a reconstruction attack with a new class of linear queries and a novel mix-and-match strategy of running the local randomizers with different completions of their adjacency lists. It matches the additive error of the algorithm based on Randomized Response, proposed by Imola, Murakami and Chaudhuri (USENIX2021) and analyzed by Imola, Murakami and Chaudhuri (CCS2022) for constant $\varepsilon$. We use a different postprocessing of Randomized Response and provide tight bounds on the variance of the resulting algorithm. In the interactive setting, we prove a lower bound of $Ω(n^{3/2}/\varepsilon)$ on the additive error for $\varepsilon\leq 1$. Previously, no hardness results were known for interactive, edge-private algorithms in the local model, except for those that follow trivially from the results for the central model. Our work significantly improves on the state of the art in differentially private graph analysis in the local model.

研究动机与目标

• 理解在局部模型中采用边差分隐私的差分隐私三角形计数的加法误差的根本限制。
• 填补现有非交互式 LEDP 算法在常数 ε 情况下上下界之间的差距，特别是针对常数 ε 的情形。
• 在局部模型中首次建立交互式 LEDP 算法的非平凡下界，此前该问题尚无相关结果。
• 通过更紧致的方差分析与后处理方法，提升现有基于随机响应的估计器的准确性。
• 证明误差界在 n 和 ε 方面是紧致的，与常数 ε 情况下的最佳已知上界相匹配。

提出的方法

• 开发了一种新颖的重建攻击，利用一类新型线性查询分析局部随机化器中的信息泄露。
• 提出一种混搭策略，对邻接表的不同补全版本运行局部随机化器，以放大隐私违规。
• 通过重建攻击证明了非交互式 LEDP 算法在加法误差上的下界为 Ω(n²)，该结果适用于足够小的常数 ε。
• 通过一种新型后处理方法分析基于随机响应的估计器的方差，实现了对加法误差的紧致界。
• 将三角形计数问题约化为交互式模型中的局部求和问题（SUMn），以推导下界。
• 通过从已知具有 Ω(√n/ε) 下界的局部求和问题约化，证明了在交互式 LEDP 模型中三角形计数的加法误差下界为 Ω(n³/²/ε)。

实验结果

研究问题

• RQ1 非交互式局部边差分隐私算法在三角形计数中可实现的最小加法误差是多少？
• RQ2 基于随机响应的估计器在局部模型中的误差能否被紧致界定，后处理如何影响方差？
• RQ3 交互式局部边差分隐私算法在三角形计数中的准确性存在何种根本限制？
• RQ4 鉴于此前缺乏相关结果，是否可能在局部模型中为交互式 LEDP 算法证明一个非平凡下界？
• RQ5 在边差分隐私下，误差界在非交互式与交互式设置中如何随 n 和 ε 变化？

主要发现

• 本文在 ε 为足够小的常数时，为非交互式局部边差分隐私三角形计数算法建立了紧致的 Ω(n²) 加法误差下界。
• 该下界通过一种新颖的重建攻击实现，结合线性查询与邻接表补全的混搭策略。
• 作者为基于随机响应的估计器提供了紧致的方差分析，表明其加法误差与常数 ε 情况下的最佳已知上界相匹配。
• 对于交互式模型，本文首次证明了在 ε ≤ 1 时加法误差的非平凡下界为 Ω(n³/²/ε)，该下界在常数因子内是紧致的。
• 交互式下界通过从局部求和问题约化得到，利用了文献中已知的下界结果。
• 本研究在非交互式与交互式模型中均填补了上下界之间的差距，显著推进了局部隐私约束下差分隐私图分析的最新水平。