[论文解读] Comparing cost and performance of replication and erasure coding

John G. Cook, Robert Primmer+1 more|arXiv (Cornell University)|Aug 8, 2013

Advanced Data Storage Technologies参考文献 3被引用 5

一句话总结

本文比较了存储系统中复制与纠删码的使用，表明对于热数据，复制因延迟更低、恢复更快，因而提供更优的性能和可用性；而对于冷数据，纠删码则在存储效率方面表现更优。核心贡献是提出一个基于数据访问模式、可靠性需求与成本-性能权衡的决策框架，并通过故障概率与系统开销的实证分析加以验证。

ABSTRACT

Data storage systems are more reliable than their individual components. In order to build highly reliable systems out of less reliable parts, systems introduce redundancy. In replicated systems, objects are simply copied several times with each copy residing on a different physical device. While such an approach is simple and direct, more elaborate approaches such as erasure coding can achieve equivalent levels of data protection while using less redundancy. This report examines the trade-offs in cost and performance between replicated and erasure encoded storage systems.

研究动机与目标

• 分析复制与纠删码在存储成本、性能和数据可用性方面的权衡。
• 量化数据访问模式（热数据与冷数据）如何影响复制与纠删码之间的最优选择。
• 基于可靠性目标、延迟约束与存储效率，提供复制与纠删码之间的选择决策框架。
• 明确区分数据丢失（DL）与数据不可用（DU），特别是在多数据中心部署中的差异。
• 评估重建时间与故障概率对系统可靠性与性能的影响。

提出的方法

• 使用概率模型，基于单个磁盘的故障率计算数据丢失与不可用概率。
• 应用二项分布估算在 m+n 纠删码系统中超过 n 个磁盘故障的可能性。
• 推导出在给定数据磁盘数（m）与单个磁盘故障概率（p）的情况下，为实现目标数据丢失概率（ε）所需奇偶校验磁盘数（n）的方程。
• 分析多数据中心部署的系统开销，表明无论采用何种保护方案，只要需在两个或以上数据中心实现 N+1 可用性，均需 100% 的存储开销。
• 建模二项分布故障率随系统规模增大而趋近正态分布的过程，证明在更大系统中数据丢失概率会渐近降低。
• 提出一种混合方法：将活跃（热）数据进行复制，将非活跃（冷）数据使用纠删码，并根据访问频率进行数据迁移。

实验结果

研究问题

• RQ1 无论采用何种数据保护机制，确保多个数据中心间数据可用性的最低存储开销是多少？
• RQ2 故障概率与重建时间如何影响纠删码与复制系统在可靠性与性能方面的表现？
• RQ3 在何种条件下，纠删码在存储效率与成本方面相比复制具有净优势？
• RQ4 数据访问频率（热数据与冷数据）如何影响复制与纠删码之间的最优选择？
• RQ5 系统规模（m+n）增大时，对纠删码系统中数据丢失概率有何影响？

主要发现

• 在多数据中心部署中，无论使用复制还是纠删码，只要任一数据中心发生故障，均需 100% 的存储开销以确保数据可用性。
• 纠删码可在保持相同数据丢失保护水平的前提下，将存储开销降低至 100% 以下，因此比复制更具存储效率。
• 复制的延迟更低、重建速度更快，因此在高访问频率的热数据场景下表现更优。
• 当系统规模（m+n）按相同比例增加时，若故障率低于某一阈值，纠删码系统的数据丢失概率将趋近于零。
• 由于修复时间更长，纠删码系统的数据不可用概率高于具有相同数据丢失保护能力的复制系统。
• 混合策略——对活跃数据使用复制、对非活跃数据使用纠删码——可同时优化性能与成本，该策略已在 Microsoft Azure 等系统中实际部署。