[论文解读] Multi-User Privacy: The Gray-Wyner System and Generalized Common Information

Ravi Tandon, Lalitha Sankar+1 more|arXiv (Cornell University)|Jun 10, 2011

Wireless Communication Security Techniques参考文献 5被引用 6

一句话总结

本文通过在Gray-Wyner网络中引入等效性约束，提出了一种新颖的多用户隐私源编码框架，确保每个解码器对其它源保持无知。该文为K个相关源定义了两种等价的广义公共信息形式，证明了二者具有相同的公式化表达，并满足随K增加而非增的性质，从而自然地推广了Gács-Körner的公共信息概念至K用户场景。

ABSTRACT

The problem of preserving privacy when a multivariate source is required to be revealed partially to multiple users is modeled as a Gray-Wyner source coding problem with K correlated sources at the encoder and K decoders in which the kth decoder, k = 1, 2, ...,K, losslessly reconstructs the kth source via a common link and a private link. The privacy requirement of keeping each decoder oblivious of all sources other than the one intended for it is introduced via an equivocation constraint at each decoder such that the total equivocation summed over all decoders is E. The set of achievable rates-equivocation tuples is completely characterized. Using this characterization, two different definitions of common information are presented and are shown to be equivalent.

研究动机与目标

• 建模多用户数据共享场景，其中每个用户接收私有数据和公共数据，同时对其它用户的私有数据保持无知。
• 通过在每个解码器处施加等效性约束来形式化隐私，确保关于非目标源的信息保持隐藏。
• 在公共链路与私有链路的约束下，刻画K个相关源的可实现速率-等效性区域。
• 为K个相关随机变量定义并分析两种等价的广义公共信息形式。
• 证明所提出的公共信息度量保持随K增加而非增的性质，而此前的推广形式不具备此性质。

提出的方法

• 将系统建模为具有公共链路（速率R₀）和K条私有链路（速率Rₖ）的K用户Gray-Wyner源编码网络，每个解码器可无失真重构其目标源。
• 在解码器k处施加等效性约束Eₖ，用于度量其对所有其他源的不确定性，总等效性E ≥ Δ。
• 利用信息论技术（包括联合典型性与Fano不等式）推导出完整的速率-等效性区域。
• 提出两种公共信息的定义：(1) 在总等效性Δ最大化的前提下，使R₀最大；(2) 在每个用户可无失真重构其源的前提下，使R₀最大。
• 通过单一表征证明两种定义等价：C(X₁,…,Xₖ) = maxₐₗₗ W I(X₁,…,Xₖ;W)，其中受制于马尔可夫链与等效性约束。
• 采用基于分组与联合典型性译码的码本构造方法，确保错误概率趋于零，并实现所需的等效性水平。

实验结果

研究问题

• RQ1 在公共链路速率R₀的最大化下，能否在确保每个源被其对应解码器无失真重构的同时，使总等效性最大化？
• RQ2 能否为K个相关源定义一种公共信息度量，使其推广Gács-Körner的定义并保持随K增加而非增的性质？
• RQ3 在K用户场景下，基于最大等效性与基于熵受限重构的两种公共信息形式化方法是否等价？
• RQ4 所提出的公共信息C(X₁,…,Xₖ)与Wyner型K变量公共信息B(X₁,…,Xₖ)之间有何关系？
• RQ5 当每个用户必须对其余用户的私有数据保持无知时，多用户源编码中的隐私基本极限是什么？

主要发现

• 为K个相关源提出的两种公共信息定义在数学上等价，且产生相同的公式化表达：C(X₁,…,Xₖ) = max_W I(X₁,…,Xₖ;W)，受制于马尔可夫链约束。
• 所提出的公共信息度量满足随K增加而非增的性质，即C(X₁,…,Xₖ) ≤ C(X₁,…,Xₖ₋₁)，而此前的K变量推广形式B(X₁,…,Xₖ)不满足此性质。
• 所提出的公共信息受K变量Wyner型公共信息的上界约束：C(X₁,…,Xₖ) ≤ B(X₁,…,Xₖ)。
• 建立了C(X₁,…,Xₖ)的下界：min_{i≠j} I(Xᵢ;Xⱼ)，表明其至少等于最小的两两互信息。
• 编码方案实现了所需的等效性水平Δ = ∑ₖ H(Ẋ|W,Xₖ)，其中Ẋ表示除Xₖ外的所有源，证明了该区域是可实现的。
• 通过证明在速率约束下最大化总等效性，可得到与在熵重构约束下最大化R₀相同的R₀值，从而证明了两种定义的等价性。