[论文解读] Upper and Lower Bounds on the Cost of a Map-Reduce Computation

Foto Afrati, Anish Das Sarma+2 more|arXiv (Cornell University)|Jun 20, 2012

Complexity and Algorithms in Graphs参考文献 18被引用 19

一句话总结

本文提出一个形式化模型，用于分析单轮和双轮 Map-Reduce 计算中通信成本（复制率）与归约器大小之间的权衡。针对关键问题——汉明距离、三角形查找和矩阵乘法，推导出紧致的上下界，表明双轮算法相比单轮方法可显著降低通信开销，尤其在归约器大小较小时效果更明显。

ABSTRACT

In this paper we study the tradeoff between parallelism and communication cost in a map-reduce computation. For any problem that is not "embarrassingly parallel," the finer we partition the work of the reducers so that more parallelism can be extracted, the greater will be the total communication between mappers and reducers. We introduce a model of problems that can be solved in a single round of map-reduce computation. This model enables a generic recipe for discovering lower bounds on communication cost as a function of the maximum number of inputs that can be assigned to one reducer. We use the model to analyze the tradeoff for three problems: finding pairs of strings at Hamming distance $d$, finding triangles and other patterns in a larger graph, and matrix multiplication. For finding strings of Hamming distance 1, we have upper and lower bounds that match exactly. For triangles and many other graphs, we have upper and lower bounds that are the same to within a constant factor. For the problem of matrix multiplication, we have matching upper and lower bounds for one-round map-reduce algorithms. We are also able to explore two-round map-reduce algorithms for matrix multiplication and show that these never have more communication, for a given reducer size, than the best one-round algorithm, and often have significantly less.

研究动机与目标

• 形式化描述 Map-Reduce 计算中通信成本（复制率）与归约器大小之间的权衡。
• 基于归约器输入大小，开发一种通用框架以推导通信成本的下界。
• 分析并优化单轮和双轮 Map-Reduce 算法在基础数据处理问题上的性能。
• 证明双轮算法在矩阵乘法及类似问题上可实现远低于单轮方法的通信开销。
• 为根据集群特性（如通信速度和内存限制）选择最优算法配置提供理论基础。

提出的方法

• 提出一种模型，其中输入被映射到键，归约器处理输入列表，其大小受最大值 q（归约器大小）限制。
• 将复制率定义为每个输入生成的键值对的平均数量，表示通信成本。
• 使用拉格朗日乘数法，在归约器大小 q 与分区参数（如矩阵乘法中的 s 和 t）之间的约束下，最小化总通信量。
• 将该模型应用于三个问题：汉明距离、三角形检测和矩阵乘法，推导出解析边界。
• 针对矩阵乘法，比较单轮与双轮方案，表明双轮方法可将通信量降低 √q 倍。
• 运用几何与组合推理，对归约器数量和覆盖输出量进行边界估计，尤其适用于多维数据布局。

实验结果

研究问题

• RQ1 在最大归约器大小给定的条件下，单轮 Map-Reduce 计算的通信成本理论下界是什么？
• RQ2 对于汉明距离、三角形查找和矩阵乘法等问题，通信成本如何随归约器大小变化？
• RQ3 双轮 Map-Reduce 算法能否在矩阵乘法中实现低于单轮算法的通信开销？在何种条件下可以实现？
• RQ4 这些问题的通信上下界如何比较？它们在渐近意义上是否一致？
• RQ5 是否存在一种归约器大小与复制率的配置，可使分布式集群中的总成本（通信 + 计算）最小化？

主要发现

• 对于汉明距离 1，通信成本的上下界完全一致，证明了所提算法的最优性。
• 对于三角形查找及类似图模式检测问题，上下界仅相差一个常数因子，表明算法近乎最优。
• 对于矩阵乘法，双轮算法的总通信成本为 $ \frac{4n^3}{\sqrt{q}} $，当 $ q < n^2 $ 时严格低于单轮方法。
• 当 $ q < n^2 $ 时，双轮方法相比单轮方法将通信量降低了 $ \sqrt{q} $ 倍，且在 q 较小时改善效果最为显著。
• 双轮矩阵乘法的最优配置为 $ s = \sqrt{q} $ 且 $ t = \sqrt{q}/2 $，该结果通过拉格朗日乘数法推导得出。
• 分析表明，双轮算法的通信开销永远不会高于最优单轮算法，且在归约器大小较小时通常显著更低。