[论文解读] Information-Theoretic Lower Bounds on the Storage Cost of Shared Memory Emulation

Viveck R. Cadambe, Zhiying Wang+1 more|arXiv (Cornell University)|May 22, 2016

Distributed systems and fault tolerance参考文献 21被引用 4

一句话总结

本文建立了在异步、容错分布式系统中模拟原子共享内存的存储成本的信息论下界。证明了即使没有服务器间通信（gossip），总存储成本至少为 $ 2\frac{N}{N-f+1}\log_2|\mathcal{V}|-o(\log_2|\mathcal{V}|) $，而在有 gossip 的情况下，该下界为 $ 2\frac{N}{N-f+2}\log_2|\mathcal{V}|-o(\log_2|\mathcal{V}|) $，显著优于先前的界限，并普遍适用于复制和纠删码方案。

ABSTRACT

The focus of this paper is to understand storage costs of emulating an atomic shared memory over an asynchronous, distributed message passing system. Previous literature has developed several shared memory emulation algorithms based on replication and erasure coding techniques. In this paper, we present information-theoretic lower bounds on the storage costs incurred by shared memory emulation algorithms. Our storage cost lower bounds are universally applicable, that is, we make no assumption on the structure of the algorithm or the method of encoding the data. We consider an arbitrary algorithm $A$ that implements an atomic multi-writer single-reader (MWSR) shared memory variable whose values come from a finite set $\mathcal{V}$ over a system of $N$ servers connected by point-to-point asynchronous links. We require that in every fair execution of algorithm $A$ where the number of server failures is smaller than a parameter $f$, every operation invoked at a non-failing client terminates. We define the storage cost of a server in algorithm $A$ as the logarithm (to base 2) of number of states it can take on; the total-storage cost of algorithm $A$ is the sum of the storage cost of all servers. Our results are as follows. (i) We show that if algorithm $A$ does not use server gossip, then the total storage cost is lower bounded by $2 \frac{N}{N-f+1}\log_2|\mathcal{V}|-o(\log_2|\mathcal{V}|)$. (ii) The total storage cost is at least $2 \frac{N}{N-f+2} \log_{2}|\mathcal{V}|-o(\log_{2}|\mathcal{V}|)$ even if the algorithm uses server gossip. (iii) We consider algorithms where the write protocol sends information about the value in at most one phase. We show that the total storage cost is at least $ν^* \frac{N}{N-f+ν^*-1} \log_2( |\mathcal{V}|)- o(\log_2(|\mathcal{V}|),$ where $ν^*$ is the minimum of $f+1$ and the number of active write operations of an execution.

研究动机与目标

• 建立异步、容错分布式系统中模拟原子共享内存的存储成本的通用信息论下界。
• 在不假设特定算法结构（如复制或纠删码）或使用服务器通信的前提下，分析存储成本。
• 在各种约束条件下（包括写协议阶段限制），确定正确模拟所需的最小存储成本。
• 解决关于存储成本是否可低于已知上界的根本性开放问题。
• 通过考虑活跃写操作的数量以及系统参数（如 N 和 f）来扩展先前的界限。

提出的方法

• 使用信息论分析推导服务器存储成本的下界，定义为每个服务器可能状态数的对数。
• 采用受编码理论启发的证明技术，通过构造执行轨迹推导出有效性（valency）论证和基于矛盾的界限。
• 考虑少于 f 个服务器故障的公平执行，确保所有非故障客户端操作均能终止。
• 引入一种新颖的执行扩展论证，表明某些配置必须具有有效性，从而在假设较低存储成本时导致矛盾。
• 分析三类不同的算法类别：无 gossip、有 gossip，以及写协议最多包含一个阶段值相关通信的方案。
• 利用弱正则性和值相关操作不变性，推导出可一致存储的不同值的数量的界限。

实验结果

研究问题

• RQ1 原子共享内存模拟的存储成本能否低于 $ \frac{N}{N-f}\log_2|\mathcal{V}| $？若能，降低幅度如何？
• RQ2 在容错和异步条件下，模拟多写者单读者共享内存所需的最小总存储成本是多少？
• RQ3 服务器通信（gossip）的存在或缺失如何影响存储成本的理论下界？
• RQ4 当写协议被限制为仅一个阶段的值相关通信时，存储成本的下界是什么？
• RQ5 这些下界能否推广至支持多个阶段值相关消息传输的算法，例如处理拜占庭故障的方案？

主要发现

• 第一个下界表明，即使没有服务器通信，总存储成本至少为 $ 2\frac{N}{N-f+1}\log_2|\mathcal{V}|-o(\log_2|\mathcal{V}|) $，约为先前已知界限 $ \frac{N}{N-f}\log_2|\mathcal{V}| $ 的两倍。
• 即使存在服务器通信，总存储成本的下界仍为 $ 2\frac{N}{N-f+2}\log_2|\mathcal{V}|-o(\log_2|\mathcal{V}|) $，表明 gossip 并未显著降低理论上的最小存储成本。
• 对于最多在一个阶段传输值信息的写协议，存储成本的下界为 $ \nu^*\frac{N}{N-f+\nu^*-1}\log_2|\mathcal{V}|-o(\log_2|\mathcal{V}|) $，其中 $ \nu^* $ 是 $ f+1 $ 与活跃写操作数的最小值。
• 该第三个体限制远高于前两个，且与大多数现有基于纠删码的共享内存算法所实现的存储成本一致。
• 结果普遍适用于基于复制和基于纠删码的算法，包括常规的单写者单读者系统。
• 本文推测，只要只有一个阶段携带显著的值信息（如在容错拜占庭方案中），这些界限对具有多个阶段值相关消息的算法依然成立。