[論文レビュー] Lower bounds for distributed markov chain problems

Rahul Sami, Andy Twigg|ArXiv.org|Oct 29, 2008

Cryptography and Data Security参考文献 19被引用数 8

ひとこと要約

この論文は、有向ネットワーク上のマーカフ連鎖における定常確率を計算する分散アルゴリズムの通信複雑性に対して、強い下界を確立する。集合の共通要素のない問題や「より大きい」問題といった二部通信問題への還元と、線形アレイ予想を活用することで、1つの定常確率を計算する場合にΩ(n² log n)ビットの下界を証明し、最悪ケースのネットワークにおいても正確な計算に inherent な複雑性が存在することを示している。

ABSTRACT

We study the worst-case communication complexity of distributed algorithms computing a path problem based on stationary distributions of random walks in a network $G$ with the caveat that $G$ is also the communication network. The problem is a natural generalization of shortest path lengths to expected path lengths, and represents a model used in many practical applications such as pagerank and eigentrust as well as other problems involving Markov chains defined by networks. For the problem of computing a single stationary probability, we prove an $Ω(n^2 \log n)$ bits lower bound; the trivial centralized algorithm costs $O(n^3)$ bits and no known algorithm beats this. We also prove lower bounds for the related problems of approximately computing the stationary probabilities, computing only the ranking of the nodes, and computing the node with maximal rank. As a corollary, we obtain lower bounds for labelling schemes for the hitting time between two nodes.

研究の動機と目的

• 有向ネットワーク上で定義されたマーカフ連鎖における定常確率を計算する分散アルゴリズムの最悪ケース通信複雑性下界を確立すること。
• 個々の定常確率の計算に加え、近似計算、ノード順位付け、最大順位ノードの特定といった関連問題の複雑性を分析すること。
• ランダム化が通信複雑性を低減できるかどうかを検討すること、特に「より大きい」問題などに既知のランダム化プロトコルがあることに鑑み、その可能性を検討すること。
• 線形アレイ予想を用いて、二部通信複雑性から分散設定へと下界を拡張するためのライジング技術を開発することにより、単純なカットから完全なネットワークトポロジーへの境界の移行を可能にすること。

提案手法

• 定常確率の計算問題を、集合の共通要素のない問題や「より大きい」問題といった二部通信問題に還元する。
• 特にバーベル型のグラフを含む特定のネットワークトポロジーを構築し、ここでノードuのπ(u)の計算の通信複雑性が、これらの二部問題の複雑性に依存することを示す。
• 線形アレイ予想を適用して、二部問題における下界を分散設定へと拡張し、nノードの線形アレイにおける通信複雑性が、最悪ケースでエッジあたりΩ(n)ビットを要することを主張する。
• マーカフ連鎖におけるフラックスとフロー方程式を用い、定常確率π(u)を入力集合PとQのサイズに関連づけ、π(u)がこれらの集合の2進表現に依存することを示す。
• 「より大きい」問題からの還元を用いて、最大順位ノードを特定するには、決定的アルゴリズムでΩ(n log n)ビット、ランダム化アルゴリズムでΩ(log n)ビットの通信量が必要であることを示す。
• 定常確率π(u)が、入力集合PとQの対称差および共通部分集合の関数として表現できることを示し、係数はサイクル構造とエッジ確率から導出されることを示す。

実験結果

リサーチクエスチョン

• RQ1 有向ネットワーク内のノードuの定常確率π(u)を計算するための分散アルゴリズムが要する最小通信複雑性は何か？
• RQ2 ランダム化アルゴリズムは、定常確率やノード順位付けの計算において、決定的アルゴリズムよりも顕著に低い通信複雑性を達成できるか？
• RQ3 ネットワークの構造、特にそのコンductanceとボトルネックの有無が、マーカフ連鎖計算の通信複雑性にどのように影響するか？
• RQ4 線形アレイ予想を用いて、二部通信複雑性の下界を、分散ネットワーク設定へとどのように拡張できるか？
• RQ5 分散システムにおいて、正確な定常確率の計算と近似計算や順位付けの計算との間に、根本的な複雑性のギャップが存在するか？

主な発見

• 最悪ケースにおいて、1つの定常確率π(u)を計算する通信複雑性にΩ(n² log n)ビットの下界が確立されている。これは正確な計算に対しても成立する。
• 最大順位ノードを計算する決定的アルゴリズムでは、通信複雑性がΩ(n log n)ビットである。
• 確率2/3以上で最大順位ノードを計算するランダム化アルゴリズムでは、通信複雑性がΩ(log n)ビットである。
• 定常確率π(u)が、集合Pに属する要素の2^{-2j}の和と、集合Qに属する要素の2^{-2k}の和の線形関数として表現できることを示し、係数はサイクル構造に依存する。
• 「より大きい」問題からの還元により、最大順位ノードの特定には、サイズO(n log n)の集合上で「より大きい」問題を解くのと同等の通信複雑性が必要であり、これにより決定的アルゴリズムのΩ(n log n)下界が導かれる。
• 結果から、ランダム化が通信複雑性の低減に役立つ可能性があることが示唆されるが、これは完全な問題に対しては未解決の問題のままである。