[论文解读] Toward Evaluating Re-identification Risks in the Local Privacy Model

Takao Murakami, Kenta Takahashi|arXiv (Cornell University)|Oct 16, 2020

Privacy-Preserving Technologies in Data参考文献 77被引用 10

一句话总结

本文提出 PIE（个人资讯熵）这一新度量指标，用于评估本地微差分隐私（LDP）模型中的再识别风险。PIE 通过下界约束攻击者从混淆数据中重新识别用户时的贝叶斯错误概率，实现分布估计的高实用性，同时确保强大的再识别抵抗能力，而 LDP 由于可能引入过多噪声而导致实用性损失。

ABSTRACT

LDP (Local Differential Privacy) has recently attracted much attention as a metric of data privacy that prevents the inference of personal data from obfuscated data in the local model. However, there are scenarios in which the adversary wants to perform re-identification attacks to link the obfuscated data to users in this model. LDP can cause excessive obfuscation and destroy the utility in these scenarios because it is not designed to directly prevent re-identification. In this paper, we propose a measure of re-identification risks, which we call PIE (Personal Information Entropy). The PIE is designed so that it directly prevents re-identification attacks in the local model. It lower-bounds the lowest possible re-identification error probability (i.e., Bayes error probability) of the adversary. We analyze the relation between LDP and the PIE, and analyze the PIE and utility in distribution estimation for two obfuscation mechanisms providing LDP. Through experiments, we show that when we consider re-identification as a privacy risk, LDP can cause excessive obfuscation and destroy the utility. Then we show that the PIE can be used to guarantee low re-identification risks for the local obfuscation mechanisms while keeping high utility.

研究动机与目标

• 为解决在本地隐私模型中缺乏正式的再识别风险度量指标的问题，特别是在使用 LDP 时的局限性。
• 提出一种新的隐私度量指标 PIE（个人资讯熵），可直接约束任何再识别攻击的最小错误概率。
• 证明当再识别是主要关注点时，LDP 可能导致过度混淆和实用性损失。
• 展示 PIE 隐私可在保证强大再识别抵抗能力的同时，实现高实用性于分布估计任务中。
• 分析 LDP 机制（如 RR 和 GLH）在隐私、实用性与再识别风险之间的理论与实证权衡。

提出的方法

• 将 PIE 定义为用户与其混淆后个人数据之间的互信息，该定义可下界约束任何再识别攻击的贝叶斯错误概率。
• 提出 PIE 隐私作为平均情况下的隐私度量指标，无论攻击者背景知识如何，均可对 PIE 进行上界约束。
• 将 PIE 应用于评估两种 LDP 机制：随机响应（RR）与高斯位置哈希（GLH）。
• 采用带阈值的实证估计方法（emp+thr）以提升分布估计任务中的实用性。
• 分析在不同隐私参数（如 ε、g）下，隐私（通过 PIE 衡量）与实用性（通过 l₂ 损失衡量）之间的权衡。
• 利用大 α 值的 Rényi 散度，将 PIE 隐私扩展至最坏情况下的隐私概念，为未来研究指明方向。

实验结果

研究问题

• RQ1 能否开发一种隐私度量指标，可直接评估本地模型中的再识别风险，且独立于攻击者背景知识？
• RQ2 当再识别是主要威胁时，LDP 对不可区分性的关注如何影响实用性？
• RQ3 PIE 是否可用于保证低再识别错误率，同时在分布估计中保持高实用性？
• RQ4 当使用 α-互信息将 PIE 的理论特性扩展至最坏情况隐私时，其性质如何变化？
• RQ5 混淆机制参数（如 GLH 中的 g，RR 中的 ε）对 PIE 框架下隐私与实用性之间平衡的影响为何？

主要发现

• 当 ε=10 时，LDP 导致对前 20 个兴趣点（POI）分布估计的相对误差达 1.05，表明尽管隐私保证微弱，实用性损失却极为严重。
• 在 LDP 框架下，RR 机制需 ε>12 才能实现 l₂ 损失为 10⁻⁶，但即便如此仍无法提供强隐私保护。
• 在 PIE 隐私下，贝叶斯错误概率可保证超过 0.92，同时在相同任务中仅产生 0.10 的相对误差。
• GLH 机制中 g 值越大，l₂ 损失越小，实用性越高，与理论预期一致。
• 仅通过随机排列进行假名化可保证高再识别错误概率，但即使在平均形式下也无法确保微差分隐私。
• PIE 度量实现了实用的权衡：在保证强再识别抵抗能力（βᵤ|ₛ > 0.92）的同时保持高实用性，而 LDP 即使在高 ε 值下也难以维持实用性。