[论文解读] Measuring Information Leakage in Non-stochastic Brute-Force Guessing

Farhad Farokhi, Ni Ding|arXiv (Cornell University)|Apr 23, 2020

Privacy-Preserving Technologies in Data参考文献 33被引用 4

一句话总结

本文提出了一种基于暴力猜测的非随机信息泄露度量方法，其中泄露程度被量化为在有和没有输出观测情况下的最坏情况猜测复杂度之比。该框架使用不确定变量来建模私有数据和输出，所得的最大泄露度量满足关键公理，如数据处理不等式和操作可解释性，与最大最小信息和随机最大泄露相关联。

ABSTRACT

We propose an operational measure of information leakage in a non-stochastic setting to formalize privacy against a brute-force guessing adversary. We use uncertain variables, non-probabilistic counterparts of random variables, to construct a guessing framework in which an adversary is interested in determining private information based on uncertain reports. We consider brute-force trial-and-error guessing in which an adversary can potentially check all the possibilities of the private information that are compatible with the available outputs to find the actual private realization. The ratio of the worst-case number of guesses for the adversary in the presence of the output and in the absence of it captures the reduction in the adversary's guessing complexity and is thus used as a measure of private information leakage. We investigate the relationship between the newly-developed measure of information leakage with the existing non-stochastic maximin information and stochastic maximal leakage that are shown arise in one-shot guessing.

研究动机与目标

• 开发一种适用于概率模型不可用或不可靠的场景的、具有操作意义的非随机信息泄露度量方法。
• 通过使用不确定变量作为随机变量的非概率对应物，形式化针对暴力猜测对手的隐私保护。
• 基于观察输出后猜测复杂度的最坏情况减少量，定义一种泄露度量。
• 为所提出的泄露度量建立关键公理属性，如数据处理不等式、独立性和可加性。
• 将非随机泄露度量与现有概念（如最大最小信息和随机最大泄露）联系起来。

提出的方法

• 使用不确定变量来建模私有数据和输出，避免使用概率假设。
• 将信息泄露定义为攻击者在有和没有输出观测情况下的最坏情况猜测次数之比。
• 通过在所有可能的敏感属性上进行优化，引入最大非随机暴力猜测泄露。
• 应用文献[1]中的公理来指导设计，确保操作可解释性，并对攻击者行为施加最少假设。
• 通过在 α→∞ 极限下使用 Sibson 互信息，推导出非随机泄露与随机最大泄露之间的界。
• 证明最大非随机泄露上界为输出的 0 阶 R{\'e}nyi 熵与给定输出下私有变量的条件 R{\'e}nyi 熵之和。

实验结果

研究问题

• RQ1 当概率模型不可用时，如何在非随机框架下度量信息泄露？
• RQ2 在无概率假设的暴力猜测场景下，信息泄露的操作解释是什么？
• RQ3 所提出的非随机泄露度量与现有概念（如最大最小信息和随机最大泄露）有何关系？
• RQ4 所提出的泄露度量是否满足数据处理不等式和可加性等基本公理？
• RQ5 最大非随机泄露能否用已知的信息论量表示为上界？

主要发现

• 所提出的非随机暴力猜测泄露度量满足所有关键公理：操作可解释性、对攻击者假设的最小化、数据处理不等式、独立性和可加性。
• 最大非随机泄露的上界为 $ H_0(Y) + H_0(X|Y) $，其中 $ H_0 $ 表示 0 阶 R{\'e}nyi 熵。
• 最大非随机泄露的上界由随机最大泄露 $ \widetilde{\mathcal{L}}(X\rightarrow Y) $ 与 R{\'e}nyi 熵 $ H_0(X|Y) $ 之和决定。
• 该度量自然地与最大最小信息相关联，后者在非随机设置下源于一次猜测且精度完美的情形。
• 该框架提出了一种新的隐私概念，称为“可识别性”，其中若最大泄露被限制在 $ \log_2(|\mathbb{X}|(1 - 2^{-\epsilon}) + 1) $ 以内，则系统为 $ \epsilon $-可识别。
• 非随机泄露提供了一种稳健的、分布无关的随机最大泄露替代方法，特别适用于小样本或非随机报告场景。