[논문 리뷰] Lower bounds for distributed markov chain problems

Rahul Sami, Andy Twigg|ArXiv.org|2008. 10. 29.

Cryptography and Data Security참고 문헌 19인용 수 8

한 줄 요약

이 논문은 방향성 네트워크 상에서 마르코프 체인의 정적 확률을 계산하는 분산 알고리즘의 통신 복잡도에 대해 강력한 하한을 설정한다. 집합 상호배타성과 크기 비교 문제와 같은 이중 당사자 통신 문제로의 환원과 선형 배열 추측을 활용하여, 단일 정적 확률을 계산하는 데 대해 Ω(n² log n) 비트의 하한을 증명함으로써, 악성 네트워크 상에서도 정확한 계산조차도 본질적인 복잡성을 지닌다는 것을 보여준다.

ABSTRACT

We study the worst-case communication complexity of distributed algorithms computing a path problem based on stationary distributions of random walks in a network $G$ with the caveat that $G$ is also the communication network. The problem is a natural generalization of shortest path lengths to expected path lengths, and represents a model used in many practical applications such as pagerank and eigentrust as well as other problems involving Markov chains defined by networks. For the problem of computing a single stationary probability, we prove an $Ω(n^2 \log n)$ bits lower bound; the trivial centralized algorithm costs $O(n^3)$ bits and no known algorithm beats this. We also prove lower bounds for the related problems of approximately computing the stationary probabilities, computing only the ranking of the nodes, and computing the node with maximal rank. As a corollary, we obtain lower bounds for labelling schemes for the hitting time between two nodes.

연구 동기 및 목표

• 방향성 네트워크에 정의된 마르코프 체인에서 정적 확률을 계산하는 분산 알고리즘의 최악의 경우 통신 복잡도 하한을 설정하는 것.
• 개별 정적 확률 외에도 근사 계산, 노드 순위 매기기, 최대 순위를 가진 노드 식별과 같은 관련 문제의 복잡도를 분석하는 것.
• 랜덤화가 통신 복잡도를 줄일 수 있는지 조사하는 것—특히 크기 비교 문제와 같은 문제들에 대해 알려진 랜덤화 프로토콜을 고려할 때.
• 선형 배열 추측을 활용하여 이중 당사자 통신 복잡도에서 분산 환경으로의 이론적 이행 기법을 개발하는 것—간단한 컷에서 전체 네트워크 구조로 하한을 전이할 수 있도록 한다.

제안 방법

• 정적 확률 계산 문제를 이중 당사자 통신 문제로 환원하며, 핵심 원천으로 집합 상호배타성과 크기 비교 문제를 사용한다.
• 특정 네트워크 구조—특히 바벨 유사 그래프—를 구성하여, π(u)를 계산하는 데 필요한 통신 복잡도가 이러한 이중 당사자 문제의 복잡도와 연결됨을 보여준다.
• 선형 배열 추측을 적용하여 이중 당사자 하한을 분산 환경으로 확장하며, 선형 배열에서의 통신 복잡도가 최악의 경우 각 간선당 Ω(n) 비트를 요구함을 주장한다.
• 마르코프 체인의 플럭스 및 유량 방정식을 활용하여 정적 확률 π(u)가 입력 집합 P와 Q의 크기와 연결됨을 보여주며, π(u)가 이러한 집합의 이진 표현에 의존함을 밝힌다.
• 크기 비교 문제에서의 환원을 통해 최대 순위를 갖는 노드를 결정하는 데는 결정론적 알고리즘에서 Ω(n log n) 비트, 랜덤화 알고리즘에서 Ω(log n) 비트의 통신 복잡도가 필요함을 보여준다.
• 정적 확률 π(u)가 입력 집합 P와 Q의 대칭차와 교집합에 대한 선형 함수로 표현될 수 있음을 보이며, 계수는 사이클 구조와 간선 확률에 의해 결정된다.

실험 결과

연구 질문

• RQ1 방향성 네트워크 상의 노드 u의 정적 확률 π(u)를 계산하기 위해 분산 알고리즘이 요구하는 최소 통신 복잡도는 얼마인가?
• RQ2 정적 확률 또는 노드 순위를 계산할 때, 랜덤화 알고리즘이 결정론적 알고리즘보다 훨씬 낮은 통신 복잡도를 달성할 수 있는가?
• RQ3 특히 네트워크의 도전성과 병목 현상 존재 여부가 마르코프 체인 계산의 통신 복잡도에 어떤 영향을 미치는가?
• RQ4 선형 배열 추측을 활용하여 이중 당사자 통신 복잡도 하한을 분산 네트워크 환경으로 어떻게 이행할 수 있는가?
• RQ5 정확한 정적 확률 계산과 근사 계산 또는 순위 매기기 사이에 본질적인 복잡도 격차가 존재하는가?

주요 결과

• 정확한 계산조차도 최악의 경우 단일 정적 확률 π(u)를 계산하는 데 대해 Ω(n² log n) 비트의 하한이 확립된다.
• 최대 순위를 갖는 노드를 계산하는 결정론적 알고리즘의 통신 복잡도는 Ω(n log n) 비트이다.
• 확률 최소 2/3로 최대 순위를 갖는 노드를 계산하는 랜덤화 알고리즘의 통신 복잡도는 Ω(log n) 비트이다.
• 정적 확률 π(u)는 집합 P에 속한 원소들에 대해 2^{-2j}의 합과 집합 Q에 속한 원소들에 대해 2^{-2k}의 합에 대한 선형 함수로 표현되며, 계수는 사이클 구조에 따라 달라진다.
• 크기 비교 문제에서의 환원은 최대 순위 결정에 대해 크기 약 O(n log n)인 집합에서 크기 비교 문제를 해결하는 것과 동일한 통신 복잡도가 필요함을 시사하며, 이는 결정론적 하한 Ω(n log n)을 이끌어낸다.
• 결과적으로 랜덤화가 통신 복잡도를 줄이는 데 도움이 될 수 있음을 시사하지만, 이는 여전히 전체 문제에 대해 열려 있는 질문이다.