[论文解读] DPHMM: Customizable Data Release with Differential Privacy via Hidden Markov Model

Yonghui Xiao, Yilin Shen+4 more|arXiv (Cornell University)|Sep 29, 2016

Privacy-Preserving Technologies in Data参考文献 13被引用 7

一句话总结

DPHMM 提出了一种差分隐私隐马尔可夫模型，通过嵌入可定制的策略图来保护时间数据中的敏感状态转移。通过基于图的不可区分性建模隐私，并使用敏感度包络检测暴露风险，DPHMM 实现了可调节的隐私与效用权衡，在效用上优于 DPLS，同时在时间相关性下仍保持强隐私保证。

ABSTRACT

Hidden Markov model (HMM) has been well studied and extensively used. In this paper, we present DPHMM ({Differentially Private Hidden Markov Model}), an HMM embedded with a private data release mechanism, in which the privacy of the data is protected through a graph. Specifically, we treat every state in Markov model as a node, and use a graph to represent the privacy policy, in which "indistinguishability" between states is denoted by edges between nodes. Due to the temporal correlations in Markov model, we show that the graph may be reduced to a subgraph with disconnected nodes, which become unprotected and might be exposed. To detect such privacy risk, we define sensitivity hull and degree of protection based on the graph to capture the condition of information exposure. Then to tackle the detected exposure, we study how to build an optimal graph based on the existing graph. We also implement and evaluate the DPHMM on real-world datasets, showing that privacy and utility can be better tuned with customized policy graph.

研究动机与目标

• 为解决在时间相关性下保护马尔可夫模型中敏感状态转移的挑战。
• 通过在隐马尔可夫模型中嵌入私有数据发布机制，实现可定制的隐私-效用权衡。
• 检测并缓解由于时间依赖性导致图简化而引发的隐私暴露风险。
• 通过敏感度包络和保护程度度量形式化隐私保证。
• 证明 DPHMM 在真实世界数据集上实现的隐私-效用权衡优于现有方法（如 DPLS）。

提出的方法

• 本文将隐私策略建模为图结构，其中节点代表状态，边表示不可区分性，从而形成可定制的策略图。
• 提出敏感度包络的概念，以识别由于马尔可夫过程中时间相关性而产生的未受保护子图。
• 保护程度（DoP）定义为真实状态被隐藏的节点数量，用于量化隐私强度。
• 通过扩展当前图结构，构建最优可保护图，以确保所有状态均得到充分保护。
• 私有数据发布机制基于敏感度包络添加噪声，确保在策略图约束下满足差分隐私。
• 通过运行时间、DoP 和误差（释放值与真实值之间的 L2 范数）等指标，在 GeoLife 和 Gowalla 数据集上评估该方法。

实验结果

研究问题

• RQ1 如何在时间相关性下，通过可定制化方式在隐马尔可夫模型中实现差分隐私，以平衡隐私与效用？
• RQ2 在使用策略图实现不可区分性时，时间相关性会引入哪些隐私风险？
• RQ3 如何利用敏感度包络检测并量化马尔可夫模型中的信息暴露？
• RQ4 如何最优地扩展策略图，以确保所有状态均能抵御推理攻击？
• RQ5 在真实世界数据上，DPHMM 与现有方法（如 DPLS）在隐私、效用和效率方面的表现如何比较？

主要发现

• DPHMM 在保持或提升隐私水平的同时，实现了优于 DPLS 的效用，表现为 GeoLife 和 Gowalla 数据集中更低的误差（L2 范数）。
• 使用 G_trs 图时，DPHMM 提供了强隐私保护（GeoLife 的 DoP 为 100，Gowalla 的 DoP 为 70），尽管伴随更高的误差。
• 使用 G_util 图时，DPHMM 的误差低于 DPLS，同时 DoP 高于 DPLS，表明其隐私-效用权衡更优。
• 保护程度（DoP）在不同 ε 值下保持稳定，因其取决于图结构而非噪声尺度。
• 随着 ε 值增加，误差降低，符合预期，因为更大的 ε 允许更少的噪声释放。
• G_util 中距离参数 r 越大，DoP 越高，但误差也越大，证实可通过图定制实现隐私与效用的可调平衡。