[论文解读] Robustness of Maximal $α$-Leakage to Side Information

Jiachun Liao, Lalitha Sankar+2 more|arXiv (Cornell University)|Jan 21, 2019

Cryptography and Data Security参考文献 13被引用 5

一句话总结

本文引入了条件最大 α-泄漏作为衡量信息泄漏的鲁棒指标，该指标考虑了辅助信息，证明当辅助信息在给定私有数据的条件下与发布数据条件独立时，最大 α-泄漏可作为条件 α-泄漏的上界。关键结果表明，最大 α-泄漏对未用于生成公开数据的任意辅助信息均保持鲁棒，使其成为在对手知识不确定的真实系统中可靠的隐私度量指标。

ABSTRACT

Maximal $α$-leakage is a tunable measure of information leakage based on the accuracy of guessing an arbitrary function of private data based on public data. The parameter $α$ determines the loss function used to measure the accuracy of a belief, ranging from log-loss at $α=1$ to the probability of error at $α=\infty$. To study the effect of side information on this measure, we introduce and define conditional maximal $α$-leakage. We show that, for a chosen mapping (channel) from the actual (viewed as private) data to the released (public) data and some side information, the conditional maximal $α$-leakage is the supremum (over all side information) of the conditional Arimoto channel capacity where the conditioning is on the side information. We prove that if the side information is conditionally independent of the public data given the private data, the side information cannot increase the information leakage.

研究动机与目标

• 形式化辅助信息对信息泄漏度量的影响，特别是在对手可能拥有附加知识的对抗性环境中。
• 定义并分析条件最大 α-泄漏，作为最大 α-泄漏的扩展，以纳入辅助信息。
• 证明当辅助信息在给定私有数据的条件下与公开数据条件独立时，最大 α-泄漏仍是条件 α-泄漏的上界。
• 证明最大 α-泄漏对未用于数据发布过程的任意辅助信息保持鲁棒，从而增强其作为隐私度量的实际应用价值。

提出的方法

• 本文将条件最大 α-泄漏定义为所有辅助信息下条件 Arimoto 信道容量的上确界，其中条件作用于辅助信息。
• 将辅助信息建模为马尔可夫链 X → Y → Z，其中 Z 表示攻击者观察到的辅助信息。
• 利用 Sibson 和 Arimoto 互信息刻画泄漏，其中 α 控制损失函数：从对数损失（α=1）到错误概率（α→∞）。
• 通过构造一个精心设计的辅助随机变量 U，其支撑集基于辅助信息 Z 的取值而互不相交，特别是聚焦于最具信息量的 Z*，提供构造性证明。
• 利用 Rényi 熵和 Arimoto 条件熵的连续延拓，处理 α=1 和 α=∞ 的极限情况。
• 通过令 |𝒰₀|→∞ 取极限，该方法分离出给定 Z=z* 时的条件泄漏贡献，表明条件最大 α-泄漏等于所有条件分布 P̃X ≪ P_{X|Z=z*} 上 Sibson 互信息的上确界。

实验结果

研究问题

• RQ1 辅助信息是否会使信息泄漏超出最大 α-泄漏所捕获的范围？
• RQ2 当辅助信息在给定私有数据的条件下与发布数据条件独立时，最大 α-泄漏能否作为泄漏的鲁棒上界？
• RQ3 条件最大 α-泄漏与条件 Arimoto 和 Sibson 互信息之间有何关系？
• RQ4 最大 α-泄漏是否对未用于数据发布过程的辅助信息保持不变？

主要发现

• 当辅助信息 Z 在给定 X 的条件下与 Y 条件独立时（即 X–Y–Z 构成马尔可夫链），条件最大 α-泄漏被最大 α-泄漏所上界。
• 本文证明，对于 α>1，条件最大 α-泄漏等于所有条件分布 P̃X ≪ P_{X|Z=z*} 上 Sibson 互信息的上确界，其中 z* 是使条件泄漏最大化的值。
• 该结果意味着最大 α-泄漏对未用于生成公开数据的辅助信息保持鲁棒，从而保持其作为保守隐私度量的角色。
• 该上界是紧致的，且可通过构造辅助随机变量 U（其支撑集大小 |𝒰₀| 逐渐增大）实现，该构造渐近地隔离了在最具信息量的 Z 值处的条件泄漏。
• 分析确认，在条件独立假设下，最大 α-泄漏可涵盖条件泄漏，从而验证了其在隐私保护系统设计中的适用性。