[論文レビュー] Parallel netCDF: A Scientific High-Performance I/O Interface

Jianwei Li, Wei‐keng Liao+5 more|ArXiv.org|Jun 11, 2003

Advanced Data Storage Technologies参考文献 12被引用数 33

ひとこと要約

本論文は、MPI-IOを用いた集団I/Oを可能にするために、シリアルnetCDF APIを最小限の変更で拡張する並列netCDF I/Oインタフェースを提示する。実世界のベンチマークにおいて、特にFLASHアプリケーションで、並列HDF5と比較してI/Oレートが最大2倍に向上するなど、顕著なI/Oパフォーマンス向上を達成している。一方で、プログラミングのシンプルさとポータビリティを維持している。

ABSTRACT

Dataset storage, exchange, and access play a critical role in scientific applications. For such purposes netCDF serves as a portable and efficient file format and programming interface, which is popular in numerous scientific application domains. However, the original interface does not provide an efficient mechanism for parallel data storage and access. In this work, we present a new parallel interface for writing and reading netCDF datasets. This interface is derived with minimum changes from the serial netCDF interface but defines semantics for parallel access and is tailored for high performance. The underlying parallel I/O is achieved through MPI-IO, allowing for dramatic performance gains through the use of collective I/O optimizations. We compare the implementation strategies with HDF5 and analyze both. Our tests indicate programming convenience and significant I/O performance improvement with this parallel netCDF interface.

研究の動機と目的

• 大規模なデータセットを処理する並列科学的アプリケーションにおけるシリアルnetCDF I/Oのパフォーマンスボトルネックを解消すること。
• 元のシリアルAPIのシンプルさとポータビリティを損なわずに、複数プロセスが同時に集団I/Oアクセスできるようにすること。
• MPI-IOを活用した集団I/O最適化を実現する、スケーラブルなデータアクセスをサポートする高性能でポータブルなI/Oインタフェースを開発すること。
• netCDFの慣習との後方互換性を保ちながら、I/O効率において既存の並列I/Oソリューション（例：HDF5）を上回ること。
• 科学的分野におけるHPCワークロードのための実用的で生産環境対応の標準として、並列netCDFを確立すること。

提案手法

• 既存のシリアルAPIユーザーに馴染みやすいように、構文的・意味的変更を最小限に抑えつつ、並列アクセスを可能にするAPIを拡張する。
• MPI-IO上にインタフェースを実装し、その集団I/O操作を活用してシステムコールの回数を減らし、I/Oスループットを向上させる。
• MPI-IOにおける2段階I/O戦略を用い、小さな非連続I/Oリクエストを大きな連続操作に統合することで、I/Oオーバーヘッドを最小限に抑える。
• netCDFのメタデータポータビリティと自己記述ファイルのセマンティクスを維持しつつ、複数プロセスが並列に書き込み・読み込みを可能にする。
• FLASHコードのような科学的アプリケーションで一般的なブロック単位の連続データアクセスパターンをサポートするようにインタフェースを設計する。
• HDF5の再帰的ハイパースラブパック手法と比較して、プロセス間同期の最小化とメタデータ処理のオーバーヘッド削減により、ファイルアクセスを最適化する。

実験結果

リサーチクエスチョン

• RQ1 MPI-IOを用いた集団I/Oを可能にするために、シリアルAPIに最小限の変更を加えつつ、並列netCDFインタフェースを設計できるか？
• RQ2 実世界の科学的I/Oワークロードにおいて、提案された並列netCDFインタフェースのパフォーマンスは、並列HDF5と比べてどの程度か？
• RQ3 並列netCDF I/Oは、シリアルnetCDF I/Oと比較して、複数プロセスで実行される科学的アプリケーションにおけるI/Oボトルネックをどの程度軽減できるか？
• RQ4 並列HDF5と最適化された並列netCDFインタフェースにおいて、メタデータ処理とプロセス間同期がI/Oパフォーマンスに与える影響は何か？
• RQ5 並列netCDFインタフェースは、使いやすさとポータビリティを維持しながら、HDF5よりも優れたI/Oスケーラビリティと低オーバーヘッドを達成できるか？

主な発見

• 並列netCDFインタフェースは、プロセス数が増加するにつれて、元のシリアルnetCDFと比較して顕著に高いI/Oパフォーマンスを達成する。
• FLASH I/Oベンチマークにおいて、並列netCDFは、HDF5と比較してI/Oレートをほぼ2倍にまで向上させた。これは、内部の同期とメタデータオーバーヘッドが低減されたためである。
• 性能向上の要因は、HDF5の再帰的処理とファイルヘッダーアクセスに比べ、並列netCDFにおけるプロセス間通信の最小化と、より効率的なハイパースラブパックに起因する。
• 通信オーバーヘッドが非常に低く抑えられており、大容量ファイルを扱う際にはディスクI/Oと比較して無視できるほど小さい。
• I/O帯域幅はプロセス数に応じて効果的にスケーリングされるが、I/Oノードおよびディスク容量の制限により、線形的ではない。
• MPI-IOの集団I/O最適化を基盤に、APIの変更を最小限に抑えても、顕著なパフォーマンス向上が達成できることを実装で示している。