[논문 리뷰] Information Equals Amortized Communication

Mark Braverman, Anup Rao|arXiv (Cornell University)|2011. 06. 17.

Complexity and Algorithms in Graphs참고 문헌 15인용 수 22

한 줄 요약

이 논문은 메시지 전송 시 수신자가 송신자의 입력에 대해 부분적인 사전 지식을 가질 때, 함수나 관계를 계산하는 데 필요한 분할된 통신 복잡도가 정확히 내부 정보 비용과 동일하다고 규명한다. 이는 메시지 전송이 정보 노출량에 해당하는 통신 비용으로 시뮬레이션될 수 있으며, 이는 하위선형 추가 항목을 제외하고 정확히 일치함을 보여준다. 주요 결과는 Slepian-Wolf 정리의 일반화이자, 랜덤화된 통신 복잡도에 대한 강력한 직접 합 정리가 성립하는 것과 동치이며, 특정 변형된 포인터 점프 문제에 대해 효율적인 압축 프로토콜의 존재를 의미한다.

ABSTRACT

We show how to efficiently simulate the sending of a message M to a receiver who has partial information about the message, so that the expected number of bits communicated in the simulation is close to the amount of additional information that the message reveals to the receiver. This is a generalization and strengthening of the Slepian-Wolf theorem, which shows how to carry out such a simulation with low amortized communication in the case that M is a deterministic function of X. A caveat is that our simulation is interactive. As a consequence, we prove that the internal information cost (namely the information revealed to the parties) involved in computing any relation or function using a two party interactive protocol is exactly equal to the amortized communication complexity of computing independent copies of the same relation or function. We also show that the only way to prove a strong direct sum theorem for randomized communication complexity is by solving a particular variant of the pointer jumping problem that we define. Our work implies that a strong direct sum theorem for communication complexity holds if and only if efficient compression of communication protocols is possible.

연구 동기 및 목표

• 수신자가 송신자의 입력에 대해 부분적인 사전 지식을 가진 경우, 메시지를 전송하기 위해 필요한 최소 통신 비용을 규명하는 것.
• Slepian-Wolf 정리를 결정론적 함수를 초월하여 부분 정보를 가진 일반적인 메시지 전송으로 일반화하는 것.
• 이중 당사자 프로토콜에서 분할된 통신 복잡도와 내부 정보 비용 간의 관계를 규명하는 것.
• 랜덤화된 통신 복잡도에 대한 강력한 직접 합 정리가 성립하는지 여부를 밝히고, 만약 성립한다면 그 조건을 규명하는 것.
• 직접 합 질문에 대한 완전 문제를 특정하는 것: 상관관계가 있는 포인터 점프 문제의 약속 형태

제안 방법

• 수신자에게 노출된 정보량 I(M;X|Y)에 비례하는 통신 비용으로 메시지를 전송하는 상호작용적 시뮬레이션 프로토콜을 제안한다.
• 점근적 등비분포성과 발산의 성질을 이용하여 독립적인 메시지 전송 복수 개의 시뮬레이션 통신 비용을 분석한다.
• 제품 분포와 발산 한계를 기반으로 한 새로운 압축 기법을 적용하여 총 발산 비용이 m·I 이하가 되도록 m개의 프로토콜 복제를 시뮬레이션한다.
• 직접 합 문제의 완전성 문제로 상관관계 있는 포인터 점프 문제(CPJ)를 도입하며, 여기서 발산 비용 I와 라운드 복잡도 C는 핵심 매개변수이다.
• CPJ를 통신 비용 T(C,I)로 해결할 수 있다면, 임의의 함수의 n중 복제본의 통신 복잡도에 하한을 도출할 수 있음을 보여준다.
• 다수결 투표 기법을 복수의 복제본에 적용하여 정확도를 향상시키고 오류 확률을 감소시킨다.

실험 결과

연구 질문

• RQ1 수신자가 송신자의 입력에 대해 부분적인 지식을 가진 경우, 메시지 전송의 통신 비용을 송신자가 노출한 정보량에 맞추어 줄일 수 있는가?
• RQ2 함수의 분할된 통신 복잡도가 정확히 그 내부 정보 비용과 동일한가?
• RQ3 랜덤화된 통신 복잡도에 대한 강력한 직접 합 정리가 성립하는가? 만약 성립한다면 어떤 조건에서 성립하는가?
• RQ4 통신 복잡도에서 직접 합 질문에 대한 완전 문제가 존재하는가?
• RQ5 상관관계 있는 포인터 점프 문제는 효율적으로 통신으로 해결할 수 있는가? 그리고 이는 직접 합 추측에 어떤 함의를 갖는가?

주요 결과

• 함수의 n개의 독립 복제본을 계산하는 데 필요한 분할된 통신 복잡도는 정확히 단일 복제본을 계산하는 데 필요한 내부 정보 비용과 동일하며, 하위선형 추가 항목을 제외하고는 일치한다.
• 수신자에게 노출된 정보량 I(M;X|Y)에 비례하는 기대 통신 비용을 가지는 프로토콜이 존재하며, 이는 Slepian-Wolf 정리를 비결정론적 메시지로 일반화한다.
• 랜덤화된 통신 복잡도에 대한 강력한 직접 합 정리가 성립하는 것과 동치이며, 이는 관련된 포인터 점프 문제(CPJ)에 대해 근사 최적의 프로토콜이 존재하는 것과 동치이다.
• CPJ(C,I) 문제는 직접 합 질문에 대해 완전하다: 만약 CPJ가 통신 비용 T(C,I) = o(C)로 해결된다면 직접 합은 성립하지 않으며, 그렇지 않다면 성립한다.
• n = ⌊C/I⌋일 때, CPJ(C,I)의 n중 복제본은 O(C log(nC/ε))의 통신 비용으로 해결될 수 있으며, 이는 직접 합 실패의 경우 CPJ가 O(C/n) 이상의 통신을 요구해야 함을 시사한다.
• 논문은 CPJ(C,C/n)이 o(C/n)의 통신으로 해결될 수 없다면, 이는 직접 합 추측의 반례가 되며, 그 n중 복제본이 o(n·R(f))의 통신 비용으로만 해결될 수 있음을 증명한다.