[论文解读] Information Equals Amortized Communication

Mark Braverman, Anup Rao|arXiv (Cornell University)|Jun 17, 2011

Complexity and Algorithms in Graphs参考文献 15被引用 22

一句话总结

本文证明了计算函数或关系的摊销通信复杂度恰好等于其内部信息成本，通过表明任何消息传输均可通过通信成本等于所揭示信息量（最多子线性加法项）的方式实现模拟。关键结果将Slepian-Wolf定理推广至更一般情形，并证明随机通信复杂度的强直接和定理成立，当且仅当存在针对特定变体指针跳跃问题的高效压缩协议。

ABSTRACT

We show how to efficiently simulate the sending of a message M to a receiver who has partial information about the message, so that the expected number of bits communicated in the simulation is close to the amount of additional information that the message reveals to the receiver. This is a generalization and strengthening of the Slepian-Wolf theorem, which shows how to carry out such a simulation with low amortized communication in the case that M is a deterministic function of X. A caveat is that our simulation is interactive. As a consequence, we prove that the internal information cost (namely the information revealed to the parties) involved in computing any relation or function using a two party interactive protocol is exactly equal to the amortized communication complexity of computing independent copies of the same relation or function. We also show that the only way to prove a strong direct sum theorem for randomized communication complexity is by solving a particular variant of the pointer jumping problem that we define. Our work implies that a strong direct sum theorem for communication complexity holds if and only if efficient compression of communication protocols is possible.

研究动机与目标

• 刻画当接收方对发送方输入具有部分先验知识时，传输消息所需的最小通信成本。
• 将Slepian-Wolf定理从确定性函数推广至具有部分信息的一般消息传输场景。
• 解决两方协议中摊销通信复杂度与内部信息成本之间的关系。
• 证明随机通信复杂度的强直接和定理成立，当且仅当可实现通信协议的高效压缩。
• 识别出直接和问题的完备问题：相关指针跳跃问题的一个承诺变体。

提出的方法

• 提出一种交互式模拟协议，其通信成本渐近等于传递给接收方的信息量，即 I(M;X|Y)。
• 利用渐近等幂性原理及散度的性质，分析模拟多个独立消息传输副本的通信成本。
• 应用一种基于乘积分布与散度界的新压缩技术，实现对 m 个协议副本的模拟，总散度成本受 m·I 限制。
• 引入相关指针跳跃问题（CPJ）作为直接和问题的完备问题，其中散度成本 I 与轮复杂度 C 为关键参数。
• 证明：若 CPJ 可以用通信量 T(C,I) 解决，则可导出任意函数 n 重副本通信复杂度的下界。
• 通过多个副本的多数投票机制增强正确性，降低模拟中的错误概率。

实验结果

研究问题

• RQ1 能否将消息传输的通信成本降低至与接收方已知信息量相等？
• RQ2 函数的摊销通信复杂度是否恰好等于其内部信息成本？
• RQ3 随机通信复杂度的强直接和定理是否成立？若成立，其条件为何？
• RQ4 通信复杂度中是否存在直接和问题的完备问题？
• RQ5 相关指针跳跃问题能否在通信中高效求解？这对直接和猜想有何含义？

主要发现

• 计算 n 个独立函数副本的摊销通信复杂度，恰好等于单个副本的内部信息成本，最多相差子线性加法项。
• 存在一种协议，可实现消息传输的模拟，其期望通信成本等于互信息 I(M;X|Y)，将 Slepian-Wolf 定理推广至非确定性消息。
• 随机通信复杂度的强直接和定理成立，当且仅当存在针对相关指针跳跃问题（CPJ）的近似最优协议。
• CPJ(C,I) 问题是直接和问题的完备问题：若 CPJ 可以用通信量 T(C,I) = o(C) 解决，则直接和不成立；否则，直接和成立。
• 当 n = ⌊C/I⌋ 时，CPJ(C,I) 的 n 重版本可用 O(C log(nC/ε)) 通信量求解，这意味着若直接和失败，则 CPJ 需要超过 O(C/n) 的通信量。
• 本文证明：若 CPJ(C,C/n) 无法用 o(C/n) 通信量求解，则其为直接和猜想的反例，因其 n 重版本仅需 o(n·R(f)) 通信量。