[论文解读] On the Privacy of Optimization Approaches

Pradeep Chathuranga Weeraddana, George Athanasiou+3 more|arXiv (Cornell University)|Oct 11, 2012

Privacy-Preserving Technologies in Data参考文献 41被引用 4

一句话总结

本文提出了一种针对基于优化的方法的正式隐私量化机制，特别是那些使用代数变换或分布式算法（如ADMM）的方法。它引入了一种从对抗性观测到问题数据不确定集的一对多映射关系，从而实现一种严格的隐私度量，能够捕捉数据重建中的模糊性。关键结果表明，在诸如平均一致性等示例中，隐私水平极高（例如，ρ = (∞,1,1)）。

ABSTRACT

Ensuring privacy of sensitive data is essential in many contexts, such as healthcare data, banks, e-commerce, wireless sensor networks, and social networks. It is common that different entities coordinate or want to rely on a third party to solve a specific problem. At the same time, no entity wants to publish its problem data during the solution procedure unless there is a privacy guarantee. Unlike cryptography and differential privacy based approaches, the methods based on optimization lack a quantification of the privacy they can provide. The main contribution of this paper is to provide a mechanism to quantify the privacy of a broad class of optimization approaches. In particular, we formally define a one-to-many relation, which relates a given adversarial observed message to an uncertainty set of the problem data. This relation quantifies the potential ambiguity on problem data due to the employed optimization approaches. The privacy definitions are then formalized based on the uncertainty sets. The properties of the proposed privacy measure is analyzed. The key ideas are illustrated with examples, including localization, average consensus, among others.

研究动机与目标

• 为解决基于优化的方法中缺乏正式隐私量化的问题，特别是那些依赖代数变换或分布式求解器（如ADMM）的方法。
• 定义一种严格的隐私度量，以捕捉攻击者从观测消息中重建私有问题数据时所面临的模糊性。
• 分析该隐私度量的性质，并证明其在包括定位和一致性在内的多种优化问题中的适用性。
• 表明即使不使用密码学或差分隐私机制，某些优化方法也能通过结构设计实现强大的隐私保证。

提出的方法

• 引入了一种从对抗性观测消息到私有问题数据不确定集的一对多关系，形式化了数据重建中的模糊性。
• 基于不确定集 𝒰 定义隐私度量 ρ(𝒰)，其中 ρ = (∞,1,1) 表示标量数据的最大隐私水平。
• 将该框架应用于基于ADMM的分布式算法，其中协调过程中交换的对偶变量（次梯度）即为观测消息。
• 利用ADMM算法的结构，从观测到的对偶迭代序列 S_dual_i 推导出不确定集 𝒰_c_i。
• 采用参数化技术构建不确定集，例如通过引入满足 ∑θ_i = 0 的扰动 θ_i，以保持协调步骤的一致性。
• 证明了只要至少存在一个诚实子系统，即使最多 r < N−1 个攻击者合谋，隐私依然保持稳健。

实验结果

研究问题

• RQ1 如何对基于优化的方法的隐私进行正式量化，特别是在缺乏密码学或差分隐私保证的情况下？
• RQ2 在分布式优化协议中，观测消息与原始私有数据重建中的不确定性之间存在何种关系？
• RQ3 能否定义一种隐私度量，以捕捉优化算法本身引入的内在模糊性，而独立于加密或噪声注入？
• RQ4 隐私水平如何依赖于优化算法的结构以及合谋攻击者的数量？

主要发现

• 所提出的隐私度量 ρ(𝒰) 成功量化了攻击者在重建私有数据时所面临的模糊性，其中 ρ = (∞,1,1) 表示标量输入的最高隐私水平。
• 在平均一致性示例中，单个节点数据的不确定集为 𝒰_c1 = {c1 − θ1 | 1^Tθ = 0}，其对应的隐私度量为 ρ(𝒰_c1) = (∞,1,1)，即最高的隐私水平。
• 即使最多 r < N−1 个攻击者合谋，只要至少存在一个诚实子系统，隐私水平依然保持稳健。
• 该框架揭示，基于优化的方法可通过利用算法结构和通过变换实现的数据混淆，在无需噪声注入或加密的情况下实现强大的隐私保护。
• 该方法具有通用性，适用于广泛类别的优化方法，包括使用标准目标/约束变换以及基于ADMM的分布式求解器的方法。