[论文解读] Lower bounds for distributed markov chain problems

Rahul Sami, Andy Twigg|ArXiv.org|Oct 29, 2008

Cryptography and Data Security参考文献 19被引用 8

一句话总结

本文建立了在有向网络上计算马尔可夫链平稳概率的分布式算法通信复杂度的强下界。通过将问题约化为两方通信问题（如集合不相交和大于比较），并利用线性数组猜想，证明了计算单个平稳概率的通信复杂度下界为 Ω(n² log n) 位，突显了即使在最坏情况网络中精确计算也存在固有的复杂性。

ABSTRACT

We study the worst-case communication complexity of distributed algorithms computing a path problem based on stationary distributions of random walks in a network $G$ with the caveat that $G$ is also the communication network. The problem is a natural generalization of shortest path lengths to expected path lengths, and represents a model used in many practical applications such as pagerank and eigentrust as well as other problems involving Markov chains defined by networks. For the problem of computing a single stationary probability, we prove an $Ω(n^2 \log n)$ bits lower bound; the trivial centralized algorithm costs $O(n^3)$ bits and no known algorithm beats this. We also prove lower bounds for the related problems of approximately computing the stationary probabilities, computing only the ranking of the nodes, and computing the node with maximal rank. As a corollary, we obtain lower bounds for labelling schemes for the hitting time between two nodes.

研究动机与目标

• 建立在有向网络上定义的马尔可夫链中，计算平稳概率的分布式算法在最坏情况下的通信复杂度下界。
• 分析不仅计算单个平稳概率，还计算近似计算、节点排序及识别最大排名节点等关联问题的复杂度。
• 研究随机化是否能降低通信复杂度，特别是在已知存在大于问题的随机化协议的背景下。
• 通过线性数组猜想，开发从两方通信复杂度到分布式环境的提升技术，实现从简单切割到完整网络拓扑的界限转移。

提出的方法

• 将计算平稳概率的问题约化为两方通信问题，以集合不相交和大于比较作为核心原语。
• 构建特定的网络拓扑结构——特别是哑铃状图——使得计算 π(u) 的通信复杂度与解决这些两方问题的复杂度相关联。
• 应用线性数组猜想，将两方复杂度下界提升至分布式环境，论证在线性数组上 n 个节点的通信复杂度意味着最坏情况下每条边至少 Ω(n) 位通信量。
• 利用马尔可夫链中的通量与流量方程，将平稳概率 π(u) 与输入集 P 和 Q 的大小关联起来，表明 π(u) 依赖于这些集合的二进制表示。
• 通过从大于问题的约化，表明确定最大排名节点在确定性算法中需要 Ω(n log n) 位通信量，在随机化算法中需要 Ω(log n) 位通信量。
• 证明平稳概率 π(u) 可表示为输入集 P 和 Q 的对称差与交集的函数，其系数由环结构和边概率决定。

实验结果

研究问题

• RQ1 在有向网络中，计算节点 u 的平稳概率 π(u) 所需的最小通信复杂度是多少？
• RQ2 对于计算平稳概率或节点排序问题，随机化算法是否能显著降低通信复杂度？
• RQ3 网络结构，特别是其导纳和瓶颈的存在，如何影响马尔可夫链计算的通信复杂度？
• RQ4 在多节点网络环境中，能否通过线性数组猜想将两方通信复杂度的下界有效提升？
• RQ5 在分布式系统中，计算精确平稳概率与近似值或排序之间是否存在根本性的复杂度差距？

主要发现

• 即使在精确计算的情况下，计算单个平稳概率 π(u) 的最坏情况通信复杂度下界为 Ω(n² log n) 位。
• 对于计算最大排名节点的确定性算法，通信复杂度为 Ω(n log n) 位。
• 对于以至少 2/3 概率计算最大排名节点的随机化算法，通信复杂度为 Ω(log n) 位。
• 证明平稳概率 π(u) 是集合 P 中元素的 2^{-2j} 之和与集合 Q 中元素的 2^{-2k} 之和的线性函数，其系数取决于环结构。
• 从大于问题的约化表明，确定最大排名所需的通信复杂度等价于解决大小为 O(n log n) 的集合上的大于问题，从而得出 Ω(n log n) 的确定性下界。
• 结果表明随机化可能有助于降低通信复杂度，但该问题在完整问题范围内仍为开放问题。