[論文レビュー] Erasure Coding for Distributed Storage: An Overview

S. B. Balaji, M. Nikhil Krishnan+4 more|arXiv (Cornell University)|Jun 12, 2018

Advanced Data Storage Technologies参考文献 151被引用数 5

ひとこと要約

本サーベイは、分散ストレージにおける消去符号技術について包括的な概要を提供し、再生可能符号（RG）、局所的に復旧可能（LR）符号、およびリーディング・ソロモン符号の高度な修復手法に焦点を当てる。主な進展として、最小帯域幅再生（MBR）および最小ストレージ再生（MSR）符号を強調し、Windows Azure や Ceph といったシステムにおける実装事例を通じて、修復帯域幅とストレージオーバーヘッドの大幅な削減を実証している。

ABSTRACT

In a distributed storage system, code symbols are dispersed across space in nodes or storage units as opposed to time. In settings such as that of a large data center, an important consideration is the efficient repair of a failed node. Efficient repair calls for erasure codes that in the face of node failure, are efficient in terms of minimizing the amount of repair data transferred over the network, the amount of data accessed at a helper node as well as the number of helper nodes contacted. Coding theory has evolved to handle these challenges by introducing two new classes of erasure codes, namely regenerating codes and locally recoverable codes as well as by coming up with novel ways to repair the ubiquitous Reed-Solomon code. This survey provides an overview of the efforts in this direction that have taken place over the past decade.

研究の動機と目的

• 大規模な分散ストレージシステムにおける故障ノードの修復において、従来のリーディング・ソロモン符号の非効率性を是正すること。
• 現代の消去符号方式におけるストレージオーバーヘッド、修復帯域幅、修復度の間のトレードオフを分析すること。
• 実世界のシステム（例：Windows Azure や HDFS）における LR、RG、LRG 符号といった高度な消去符号の実用的性能と導入状況を評価すること。
• MSR および MBR 符号を含む再生可能符号における理論的進展を要約し、低サブパケット化および最適アクセスを最適化した点を示すこと。
• 生産環境におけるコード実装の実証的評価を提示し、レプリケーションおよび従来の消去符号と比較してコストとパフォーマンスの利点を示すこと。

提案手法

• 本論文は、従来のリーディング・ソロモン符号から再生可能符号（RG）に至る消去符号の進化をサーベイし、(n,k,d,α,β,B) のパrameterization を用いて修復帯域幅を最小化する。
• ストレージ-修復帯域幅（S-RB）トレードオフの極値として、最小帯域幅再生（MBR）および最小ストレージ再生（MSR）符号を導入する。
• ピッグバック方式のフレームワークを用いて、修復帯域幅を低減した MDS アレイ符号を構築し、Hitchhiker システムや HashTag 符号を例に挙げる。
• 局所的に復旧可能（LR）符号は、修復時のヘルパー・ノード数を最小化することを目的とし、修復度 r を主要なパrameter として用いる。
• 局所的再生（LRG）符号は、修復帯域幅と修復度を同時に最適化することを目的として提唱される。
• Hadoop、Ceph、Windows Azure における実際の導入を用いた評価を実施し、レプリケーションおよび従来の RS 符号と比較してのパフォーマンスを検証する。

実験結果

リサーチクエスチョン

• RQ1 分散ストレージシステムにおいて、高いストレージ効率を維持しつつ、修復帯域幅を最小化するように消去符号を設計する方法は何か？
• RQ2 再生可能符号におけるストレージオーバーヘッド、修復帯域幅、修復度の間の根本的トレードオフは何か？
• RQ3 従来のリーディング・ソロモン符号と比較して、局所的に復旧可能（LR）符号は、ノード修復時の接触ノード数をどの程度削減できるか？
• RQ4 ピッグバックに基づくような高度なリーディング・ソロモン符号の修復技術は、どのように修復効率を向上させるか？
• RQ5 生産環境のストレージシステムにおける現代の消去符号（例：Clay、PM-RBT、LRG 符号）の導入による実世界のパフォーマンスおよびコストへの影響は何か？

主な発見

• Windows Azure における局所的に復旧可能な（LR）符号の採用により、[16,12] RS 符号のときのストレージオーバーヘッド 1.5 が (n=18,k=14,r=7) 符号で 1.29 に低下し、数百万ドルの運用コスト削減が達成された。
• Azure における (n=16,k=12,r=6) LR 符号は、[9,6] RS 符号と同等の修復度を達成し、顕著な修復効率の向上を示した。
• ピッグバックに基づく Hitchhiker システムは、HDFS に成功裏に実装され、Apache Hadoop に統合され、修復パフォーマンスの向上が確認された。
• Ceph に実装された Clay 符号は、ストレージオーバーヘッド、修復帯域幅、アクセス、サブパケット化の点で最適性を達成し、Ceph にベクタ符号サポートが追加された。
• PM-RBT 符号は、製品行列 MSR 符号の最適アクセス版であり、レート 1/2 のコードで Amazon EC2 において良好なパフォーマンスを示した。
• 容量最適化型の遅延修復に基づく Liquid ストレージは、理論的限界に近づき、MTTDL（データ損失までの平均時間）において、小ブロック長の符号を上回る性能を示した。