[论文解读] Approximate Span Liftings

Tetsuya Sato, Gilles Barthe+3 more|arXiv (Cornell University)|Oct 24, 2017

Privacy-Preserving Technologies in Data被引用 6

一句话总结

本文提出近似跨度提升（approximate span-liftings），一种新颖的关系提升框架，将组合推理扩展至连续概率分布和一般散度，从而实现对Rényi差分隐私（RDP）、零集中差分隐私（zCDP）和截断集中差分隐私（tCDP）的正式验证。主要贡献是在单一形式系统中统一支持四种差分隐私变体——标准差分隐私、RDP、zCDP 和 tCDP——适用于具有离散和连续采样的程序。

ABSTRACT

We develop new abstractions for reasoning about relaxations of differential privacy: Rényi differential privacy, zero-concentrated differential privacy, and truncated concentrated differential privacy, which express different bounds on statistical divergences between two output probability distributions. In order to reason about such properties compositionally, we introduce approximate span-lifting, a novel construction extending the approximate relational lifting approaches previously developed for standard differential privacy to a more general class of divergences, and also to continuous distributions. As an application, we develop a program logic based on approximate span-liftings capable of proving relaxations of differential privacy and other statistical divergence properties.

研究动机与目标

• 解决现有组合推理技术在RDP、zCDP和tCDP等差分隐私松弛形式中的缺失问题。
• 通过推广至连续测度和更广泛的散度类，克服现有关系提升方法仅限于离散分布和f-散度的局限性。
• 构建语义基础，支持在一般散度（包括Rényi和与zCDP相关的散度）下对连续概率测度的序列组合。
• 构建一个统一的关系程序逻辑，能够在单一框架中验证标准差分隐私、RDP、zCDP和tCDP。
• 实现对使用离散和连续随机采样的隐私保护程序的正式验证，精确推理统计散度界。

提出的方法

• 引入一类广义散度，包含Rényi、zCDP和tCDP散度，识别出实现组合推理所必需的最小结构属性。
• 将近似跨度提升定义为2-见证关系提升的推广，通过引入额外数据，确保在连续设置中序列组合下的封闭性。
• 基于余密度提升（codensity lifting）构建范畴论构造，支持在Giry单子中对连续概率测度实现无见证关系提升。
• 证明特定散度（如Rényi、zCDP、tCDP）的组合性质可转化为相应的近似跨度提升构造。
• 设计一种关系程序逻辑，通过近似跨度提升解释程序对，实现对多种隐私模型下隐私属性的验证。
• 通过三个涉及不同隐私松弛形式和采样分布的案例研究，证明该逻辑的正确性和实用性。

实验结果

研究问题

• RQ1 如何将关系提升推广至支持连续概率分布，同时保持组合推理能力？
• RQ2 在差分隐私松弛的背景下，散度的哪些结构属性是确保序列组合下封闭性的必要且充分条件？
• RQ3 能否设计一个单一程序逻辑，同时验证标准差分隐私、RDP、zCDP和tCDP，即使这些模型使用不同的散度度量？
• RQ4 如何构造近似跨度提升，以建模Rényi散度及其基于上确界的变体（zCDP、tCDP），并支持正式验证？
• RQ5 在连续设置中，无见证提升与2-见证跨度提升之间存在何种关系？如何使后者在验证中更具实用性？

主要发现

• 作者识别出一类广义散度，包含Rényi、zCDP和tCDP，证明这些散度满足组合推理所必需的性质。
• 近似跨度提升被正式定义并证明在序列组合下具有封闭性，从而支持连续情况下的组合验证。
• 该框架支持使用离散和连续采样的程序的正式验证，单一关系程序逻辑可处理所有四种隐私模型。
• 该程序逻辑具有正确性，并通过三个非平凡案例研究得到验证，展示了其在真实隐私保护算法中的实际适用性。
• 该构造推广了先前关于f-散度和2-见证提升的工作，将其扩展至连续测度和非基于f-散度的隐私松弛形式。
• 本工作表明，当与近似跨度提升结合时，基于余密度提升的无见证提升可被特化和简化，从而提升验证的实用性。