[论文解读] Hiding in the Crowd: A Massively Distributed Algorithm for Private Averaging with Malicious Adversaries

Pierre Dellenbach, Aurélien Bellet+1 more|arXiv (Cornell University)|Mar 27, 2018

Privacy-Preserving Technologies in Data参考文献 5被引用 5

一句话总结

本文提出 Gopa，一种去中心化、大规模分布式的算法，用于在数百万用户之间实现私有平均计算，每位用户贡献一个私有价值而不泄露其内容。通过结合随机化八卦协议、噪声掩蔽和验证机制，Gopa 在面对诚实但好奇及恶意攻击者时均能确保隐私，且隐私强度随网络规模增大而增强，并对大规模作弊行为具有鲁棒性。

ABSTRACT

The amount of personal data collected in our everyday interactions with connected devices offers great opportunities for innovative services fueled by machine learning, as well as raises serious concerns for the privacy of individuals. In this paper, we propose a massively distributed protocol for a large set of users to privately compute averages over their joint data, which can then be used to learn predictive models. Our protocol can find a solution of arbitrary accuracy, does not rely on a third party and preserves the privacy of users throughout the execution in both the honest-but-curious and malicious adversary models. Specifically, we prove that the information observed by the adversary (the set of maliciours users) does not significantly reduce the uncertainty in its prediction of private values compared to its prior belief. The level of privacy protection depends on a quantity related to the Laplacian matrix of the network graph and generally improves with the size of the graph. Furthermore, we design a verification procedure which offers protection against malicious users joining the service with the goal of manipulating the outcome of the algorithm.

研究动机与目标

• 解决在无第三方参与的去中心化环境中，对数百万用户进行私有平均计算的挑战。
• 在诚实但好奇和恶意攻击者模型下，即使大量用户被攻破，也提供强隐私保障。
• 确保协议在不依赖可信第三方或同态加密的前提下，保持准确性与可扩展性，并能收敛至任意精度。
• 设计一种验证机制，以检测试图操纵平均值的恶意用户，同时保持端到端的隐私性。
• 证明隐私性随网络规模和图结构的提升而增强，使用户能够‘隐匿于人群之中’。

提出的方法

• 使用随机化八卦协议进行分布式平均计算，用户在作为连通图表示的对等网络中异步交换值。
• 引入两阶段协议：首先，用户与邻居交换噪声项以掩蔽其私有价值，确保所有值的总和保持不变。
• 应用贝叶斯隐私分析，量化攻击者对私有价值信念后验方差的减少，表明其与先验方差相比可忽略不计。
• 将隐私与网络图的拉普拉斯矩阵联系起来，表明图的平滑性质可增强隐私，尤其在大规模随机 k-out 图中表现更优。
• 实施验证程序，用户以明文形式发布其部分（1−β）噪声值，从而以高概率检测到作弊行为。
• 通过增加网络的平均度来补偿公开噪声值带来的隐私损失，从而维持强隐私保障。

实验结果

研究问题

• RQ1 是否能在无第三方参与的去中心化协议中实现任意精度的平均计算，同时为所有诚实用户提供强隐私保护？
• RQ2 通信网络的结构（如图拓扑）在存在恶意用户的情况下，如何影响隐私水平？
• RQ3 在八卦过程中引入噪声在多大程度上影响收敛速度和准确性？
• RQ4 验证机制能否在不损害诚实用户隐私的前提下检测到试图操纵平均值的恶意用户？
• RQ5 当大量用户为恶意时，隐私保障是否仍随用户数量增加而提升？

主要发现

• 攻击者对私有价值信念的后验方差与先验方差相比仅被微小地减少，证明在诚实但好奇和恶意模型下均具备强隐私性。
• 隐私性随网络规模和图的平滑性质（由拉普拉斯矩阵量化）而提升，使用户能够‘隐匿于人群之中’。
• 达到目标误差水平所需的迭代次数随噪声方差呈对数增长，表明对收敛速度影响轻微。
• 在固定 k 的随机 k-out 图中，增加用户数量（n）可显著提升隐私性，即使高达 50% 的用户为恶意。
• 验证程序检测作弊的概率至少为 1−β²ᶜ，其中 C 为作弊实例的数量，使大规模操纵变得极不可能。
• 以明文形式发布部分噪声值仅造成边际隐私损失，且可通过增加网络的平均度来补偿。