[論文レビュー] A Flexible High Demand Storage System for MAGIC-I and MAGIC-II using GFS

E. Carmona, J. A. Coarasa+1 more|arXiv (Cornell University)|Jul 6, 2009

Astrophysics and Cosmic Phenomena参考文献 3被引用数 3

ひとこと要約

本論文では、赤帽クラスタ上でグローバルファイルシステム（GFS）を用いて、MAGIC-IおよびMAGIC-IIチェレンコフ望遠鏡向けにスケーラブルで信頼性が高く柔軟性のある高性能ストレージシステムを提示する。このシステムは1.2 kHzを超える持続的なDAQ書き込みレートをサポートし、圧縮、テープ記録、オンライン解析などの並列データ処理を可能にするとともに、RAID5、マルチパスI/O、および障害ノードの自動フェンシングにより耐障害性を確保し、最小限のダウンタイムで1日あたり1 TB以上のデータを保存する。

ABSTRACT

MAGIC-I is currently the Imaging Cherenkov Telescope with the worldwide largest reflector currently in operation. The initially achieved low trigger threshold of 60 GeV has been further reduced by means of a novel trigger that allows the telescope to record gamma ray showers down to 25 GeV. The high trigger rate combined with the 2 GHz signal sampling rate results in large data volumes that can reach 1 TByte per night for MAGIC-I and even more with the second MAGIC telescope coming soon into operation. To deal with the large storage requirements of MAGIC-I and MAGIC-II, we have installed the distributed file system GFS and a cluster of computers with concurrent access to the same shared storage units. The system can not only handle a sustained DAQ write rate above 1.2 kHz for MAGIC-I, but also allows other nodes to perform simultaneous concurrent access to the data on the shared storage units. Various simultaneous tasks can be used at any time, in parallel with data taking, including data compression, taping, on-line analysis, calibration and analysis of the data. The system is designed to quickly recover after the failure of one node in the cluster and to be easily extended as more nodes or storage units are required in the future.

研究の動機と目的

• MAGIC望遠鏡がサムトリガー操作中に最大60 MB/sを記録する高データ量およびI/O要件に対処する。
• 圧縮、テープ記録、オンライン解析などの並列データ処理タスクを支援するため、複数ノード間で一貫性のある共有ファイルシステムを提供する。
• RAID5、マルチパスI/O、および障害ノードの自動フェンシングにより、高い信頼性を確保する。
• MAGIC-II望遠鏡（1039ピクセル、データレートが2倍）の導入に伴い、動的リソース割り当てとシステムスケーラビリティを実現する。
• ノードまたはストレージ障害からの迅速な回復を可能にし、データ破損を防ぐシステムを設計する。

提案手法

• 7ノードのレッドハットクラスターソフトウェアを導入し、各ノードが共有のファイバーチャネル接続RAIDストレージユニットに対して直接読み書き可能であるように構成した。
• すべてのクラスタノード間で一貫性のある共有ファイルシステムビューを提供するため、グローバルファイルシステム（GFS）を実装した。
• クラスタメッセージング（CMAN）に専用の1 Gbpsイーサーネットを、ストレージI/Oに別個のファイバーチャネルネットワークを割り当てた。
• ディスク障害発生時における自動フェイルオーバーとデータ整合性を確保するため、予備ディスクを備えたRAID5アレイを構成した。
• 冗長なファイバーチャネルパスを介して接続を維持するため、multipathデーモンを有効にした。
• 障害ノードの自動検出と隔離を実現するため、CMANおよびフェンスサービスを用い、共有ストレージへのアクセスをブロックすることでデータ破損を防止した。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、高いトリガー率を示すチェレンコフ望遠鏡から1日1 TBを超えるデータを処理できる、高性能でスケーラブルかつ信頼性の高いストレージシステムを設計できるか？
• RQ2 複数ノードが同時に共有ストレージにアクセスする場合、データの一貫性と耐障害性を保証するメカニズムは何か？
• RQ3 I/Oボトルネックを回避しつつ、圧縮、テープ記録、オンライン解析などの並列データ処理タスクをどのようにサポートできるか？
• RQ4 より高いデータレートを有する第二の望遠鏡にアップグレードする際、どのようにしてシームレスな拡張性を実現できるか？
• RQ5 ノードおよびストレージ障害を自動的に検出し、隔離することで、データ破損を防ぐにはどのような戦略が有効か？

主な発見

• MAGIC-Iでは1.2 kHzを超える持続的なDAQ書き込みレートを達成し、高トリガー率観測時にも最大60 MB/sを処理した。
• 高負荷条件下でも1日あたり1 TBを超えるデータ量を達成し、サムトリガー操作時には生データが60 MB/sに達した。
• GFSベースのクラスタにより、圧縮、テープ記録、オンライン解析、キャリブレーションの並列アクセスが可能となり、I/O性能はDAQ書き込み速度と同等となった。
• 自動フェンシングとCMANを用いて、ノード障害からの回復を数秒で完了し、データ破損を防止した。
• ストレージアーキテクチャは動的拡張を可能にし、現在使用中のファイバーチャネルスイッチポートは30%未満であり、最大100ノードまでの将来的な拡張が可能である。
• 予備ディスクの自動交換とマルチパスI/Oを組み合わせたRAID5の採用により、高い信頼性を確保し、ディスクまたはパス障害時にもデータ損失が発生しなかった。