[论文解读] The Benefit of Being Flexible in Distributed Computation

Linqi Song, Sundara Rajan Srinivasavaradhan+1 more|arXiv (Cornell University)|May 23, 2017

Distributed systems and fault tolerance被引用 3

一句话总结

该论文表明，在随机数据分布的分布式系统中，通过灵活地将计算功能分配给节点，可显著降低通信开销。当数据观测概率超过临界阈值时，通过将功能分配给已拥有所需数据的节点，系统可完全消除数据重分布（shuffling），在高覆盖率场景下实现近乎零通信。

ABSTRACT

In wireless distributed computing, networked nodes perform intermediate computations over data placed in their memory and exchange these intermediate values to calculate function values. In this paper we consider an asymmetric setting where each node has access to a random subset of the data, i.e., we cannot control the data placement. The paper makes a simple point: we can realize significant benefits if we are allowed to be "flexible", and decide which node computes which function, in our system. We make this argument in the case where each function depends on only two of the data messages, as is the case in similarity searches. We establish a percolation in the behavior of the system, where, depending on the amount of observed data, by being flexible, we may need no communication at all.

研究动机与目标

• 研究在随机数据分布下，分布式计算中的通信开销权衡问题。
• 分析将功能灵活分配给节点是否相比固定分配可降低通信开销。
• 确定由于数据天然可用性而使数据重分布变得不必要的条件。
• 量化功能分配灵活性在通信减少方面的收益，特别是在功能-数据关系不对称的情况下。

提出的方法

• 建立一个包含 m 个节点的分布式计算系统，每个节点持有 K 个数据消息的随机子集。
• 将功能-数据依赖关系表示为随机二部图 B(m, n, p)，其中 p 为节点持有某个数据消息的概率。
• 分析两种方案下的通信开销：固定功能分配（功能预先分配）与灵活功能分配（功能分配给拥有可用数据的节点）。
• 使用渗滤理论和概率不等式（如 A.M-G.M、Chernoff）推导出通信变得不必要的阈值。
• 评估编码与非编码传输方案，重点关注所需传输次数。
• 推导出阈值概率 pth = 1 − (log K / K)^{1/C}，当该值超过时，灵活分配可完全消除数据重分布。

实验结果

研究问题

• RQ1 在随机数据分布下，分布式功能计算中可实现的最小通信开销是多少？
• RQ2 与固定分配相比，灵活分配功能给节点如何影响通信开销？
• RQ3 在何种数据观测概率下，系统会从需要大量通信转变为几乎无需通信？
• RQ4 当节点可基于本地数据选择计算哪些功能时，编码或非编码传输是否可减少至零？
• RQ5 功能依赖结构（例如，每个功能依赖于两个数据消息）对通信效率有何影响？

主要发现

• 当数据观测概率 p 超过阈值 pth = 1 − (log K / K)^{1/C} 时，灵活功能分配可完全消除数据重分布，通信开销为零。
• 对于固定功能分配，即使使用编码，当 p 低于阈值时通信开销仍为 Θ(K)，表明无编码增益。
• 在灵活分配下，当 p > 1 − o(1) 时，通信开销几乎必然降为零，尤其当 p > 1 − log K / K 时更为显著。
• 对于非编码传输，预期传输次数为 K(2 − 2p + p²)，当 p 较高时显著下降。
• 在 p ∈ (log K / n)^{ω(1)} 到 1 − log K / K 的区间内，灵活性的优势最为明显：固定分配需 Θ(K) 次传输，而灵活分配几乎无需传输。
• 通过概率不等式和渗滤分析推导出阈值 pth = 1 − (log K / K)^{1/C}，表明系统行为存在明显的突变转变。