[论文解读] PrivLava: Synthesizing Relational Data with Foreign Keys under Differential Privacy

Kuntai Cai, Xiaokui Xiao+1 more|arXiv (Cornell University)|Apr 10, 2023

Privacy-Preserving Technologies in Data被引用 5

一句话总结

PrivLava 是首个在差分隐私约束下，利用具有潜变量的图模型来合成带外键的多关系数据库表的框架，能够捕捉关系间的相关性。它支持任意无环外键模式，在人口普查和TPC-H数据集上的聚合查询准确性优于现有方法。

ABSTRACT

Answering database queries while preserving privacy is an important problem that has attracted considerable research attention in recent years. A canonical approach to this problem is to use synthetic data. That is, we replace the input database R with a synthetic database R* that preserves the characteristics of R, and use R* to answer queries. Existing solutions for relational data synthesis, however, either fail to provide strong privacy protection, or assume that R contains a single relation. In addition, it is challenging to extend the existing single-relation solutions to the case of multiple relations, because they are unable to model the complex correlations induced by the foreign keys. Therefore, multi-relational data synthesis with strong privacy guarantees is an open problem. In this paper, we address the above open problem by proposing PrivLava, the first solution for synthesizing relational data with foreign keys under differential privacy, a rigorous privacy framework widely adopted in both academia and industry. The key idea of PrivLava is to model the data distribution in R using graphical models, with latent variables included to capture the inter-relational correlations caused by foreign keys. We show that PrivLava supports arbitrary foreign key references that form a directed acyclic graph, and is able to tackle the common case when R contains a mixture of public and private relations. Extensive experiments on census data sets and the TPC-H benchmark demonstrate that PrivLava significantly outperforms its competitors in terms of the accuracy of aggregate queries processed on the synthetic data.

研究动机与目标

• 解决多关系数据库中外键存在时缺乏强隐私保护的合成数据生成问题。
• 在差分隐私约束下，对由外键约束引发的复杂关系间相关性进行建模。
• 在单一数据库模式中支持公共关系与私有关系的混合。
• 在确保严格隐私保证的前提下，实现对合成数据上聚合查询的准确回答。
• 将单关系差分隐私解决方案扩展至具有外键参照完整性的多关系场景。

提出的方法

• PrivLava 使用带有潜变量的图模型来表示由外键引起的关系间依赖，以建模数据分布。
• 将合成过程表述为对关系间联合分布的差分隐私估计，同时整合外键约束。
• 该框架支持多个关系之间任意有向无环图（DAG）形式的外键引用关系。
• 通过差分隐私机制（如拉普拉斯或高斯噪声）对图模型参数进行隐私保护的参数估计。
• 该方法允许混合模式，即部分关系为公共，部分为私有，从而实现灵活的数据合成。
• 通过从学习到的差分隐私图模型中进行采样，生成合成数据。

实验结果

研究问题

• RQ1 我们能否在保持强差分隐私保证的前提下，生成带有外键的合成关系数据？
• RQ2 如何在隐私保护的前提下，对由外键约束引发的多个关系之间的复杂相关性进行建模？
• RQ3 该框架能否处理同时包含公共和私有关系的混合模式？
• RQ4 在差分隐私约束下，合成数据上聚合查询的准确性与现有方法相比如何？
• RQ5 该方法在真实世界数据库模式（如TPC-H和人口普查数据）上是否具备可扩展性和有效性？

主要发现

• 在人口普查和TPC-H基准数据集上，PrivLava 在聚合查询上的准确性显著高于现有基线方法。
• 该框架支持任意无环外键关系，能够建模复杂的多关系模式。
• 它能有效处理公共与私有关系的混合，即使部分关系不敏感，也能维持强隐私保证。
• 图模型中潜变量的使用，能够准确捕捉由外键引发的关系间依赖。
• 实证评估表明，PrivLava 在差分隐私约束下，查询准确性优于最先进的单关系与多关系合成方法。
• 该方法在真实数据库模式上具有良好的可扩展性，并且在对抗性查询工作负载下仍能保持隐私安全。