[论文解读] Storage, Computation, and Communication: A Fundamental Tradeoff in Distributed Computing

Qifa Yan, Sheng Yang+1 more|arXiv (Cornell University)|Jun 20, 2018

Cloud Computing and Resource Management参考文献 10被引用 3

一句话总结

本文通过为编码分布式计算框架推导出紧致的下界，确立了分布式计算中存储、计算与通信之间的基本权衡。它证明了最近提出的 D3C 方案实现了最优权衡，完全刻画了类似 MapReduce 系统中存储、计算与通信成本的帕累托最优表面。

ABSTRACT

We consider a MapReduce-like distributed computing system. We derive a lower bound on the communication cost for any given storage and computation costs. This lower bound matches the achievable bound we proposed recently. As a result, we completely characterize the optimal tradeoff between the storage, the computation, and the communication. Our result generalizes the previous one by Li et al. to also account for the number of computed intermediate values.

研究动机与目标

• 刻画分布式计算系统中存储、计算与通信之间基本权衡的本质。
• 通过考虑实际计算的中间值数量（而不仅仅是存储的中间值数量），将先前的编码分布式计算（CDC）工作进一步拓展。
• 通过为 D3C 方案证明匹配的下界，弥合了可实现方案与理论极限之间的差距。
• 将 Li 等人的通信-存储权衡推广至将计算成本作为第一类维度的完整框架。
• 对所有三种系统资源的帕累托最优权衡表面提供完整刻画。

提出的方法

• 形式化一个包含 K 个节点和 N 个文件的分布式计算模型，其中每个节点存储部分文件并计算部分中间值（IVAs）。
• 引入一种新的计算成本度量方式，即每个节点计算的中间值数量的归一化值，该度量与存储成本相区分。
• 利用信息论不等式和基于熵的界估计技术，推导出通信负载的下界。
• 通过在节点子集上使用归纳法证明，建立条件熵的下界，从而得出通信负载的下界。
• 利用中间值之间的对称性与独立性假设，简化条件熵表达式。
• 将推导出的下界与 D3C 方案的可实现性能相匹配，从而证明其最优性。

实验结果

研究问题

• RQ1 在分布式计算系统中，存储、计算与通信之间的基本权衡是什么？
• RQ2 对于给定的存储与计算成本组合，能否最小化通信负载？
• RQ3 D3C 方案是否实现了最优权衡，还是可实现性能与下界之间存在差距？
• RQ4 将实际计算（即计算的中间值数量）纳入考量，如何改进经典的存储-通信权衡？
• RQ5 通信负载的下界是否紧致，能否被实际方案所达到？

主要发现

• 本文建立了与 D3C 方案性能完全匹配的通信负载紧致下界，证明了其最优性。
• 最优权衡表面被完全刻画为所有可实现的（存储，计算，通信）三元组的帕累托前沿。
• 推导出的下界表达式为 $ T \sum_{j=1}^{s-1} \frac{b_{\mathcal{S},j}}{j} $，其中 $ b_{\mathcal{S},j} $ 表示在子集 $ \mathcal{S} $ 中恰好由 j 个节点计算的中间值数量。
• 该结果通过将计算成本显式作为设计变量引入，推广了 Li 等人的存储-通信权衡。
• 证明依赖于一个适用于所有非空节点子集的归纳式熵不等式，确保了边界的普适性。
• 关键洞见在于：通过允许选择性地计算中间值，系统可在不增加通信成本的前提下降低计算成本，从而实现更优的资源权衡。