[論文レビュー] Persistent Data Layout and Infrastructure for Efficient Selective Retrieval of Event Data in ATLAS

P. van Gemmeren, D. Malon|arXiv (Cornell University)|Sep 14, 2011

Advanced Data Storage Technologies参考文献 5被引用数 5

ひとこと要約

本論文は、ATLASにおける強化されたROOT I/O機能を活用して、選択的イベントデータ取得を最適化する新しい恒久的データレイアウト戦略を提示する。イベントデータのストレージをカラム単位で再編集し、チューナブルなフォーマットにすることで、分析ワークロードにおけるアクセス時間の顕著な短縮が達成され、高エネルギー物理学実験におけるペタバイトスケールのデータセットにおけるI/O効率が向上する。

ABSTRACT

The ATLAS detector at CERN has completed its first full year of recording collisions at 7 TeV, resulting in billions of events and petabytes of data. At these scales, physicists must have the capability to read only the data of interest to their analyses, with the importance of efficient selective access increasing as data taking continues. ATLAS has developed a sophisticated event-level metadata infrastructure and supporting I/O framework allowing event selections by explicit specification, by back navigation, and by selection queries to a TAG database via an integrated web interface. These systems and their performance have been reported on elsewhere. The ultimate success of such a system, however, depends significantly upon the efficiency of selective event retrieval. Supporting such retrieval can be challenging, as ATLAS stores its event data in column-wise orientation using ROOT trees for a number of reasons, including compression considerations, histogramming use cases, and more. For 2011 data, ATLAS will utilize new capabilities in ROOT to tune the persistent storage layout of event data, and to significantly speed up selective event reading. The new persistent layout strategy and its implications for I/O performance are described in this paper.

研究の動機と目的

• ATLAS実験におけるペタバイトスケールのイベントデータへの効率的で選択的なアクセスという、増大する課題に対処すること。
• イベントデータの恒久的ストレージレイアウトを最適化することで、物理学解析におけるI/Oパフォーマンスを向上させること。
• 新しいROOT I/O機能を活用して、カラム単位のデータ構成を実現し、選択的イベント読み取りを高速化すること。
• 将来のデータ取得フェーズにおけるデータアクセス遅延の低減とスケーラビリティの向上を図ること。
• メタデータ駆動のクエリと最適化されたストレージレイアウトを用いて、効率的でスケーラブルかつ選択的なイベント取得を可能にすること。

提案手法

• イベントデータのストレージ効率とランダムアクセス効率の向上を目的として、ROOTツリーにおけるカラム単位のデータレイアウトを採用すること。
• イベントデータの恒久的フォーマットをチューニングするために、新しいROOT I/O機能を活用すること。
• 最適化されたレイアウトをATLASの既存のメタデータインfra構造およびTAGデータベースと統合すること。
• Webインターフェースを通じて、明示的仕様、バックナビゲーション、SQLに類似したクエリを用いてイベント選択を可能にすること。
• 全ファイルを読み込まずに特定のイベントへの高速ランダムアクセスを可能にするようにストレージレイアウトを設計すること。
• ディスクI/Oを最小限に抑え、リトリーブスループットを最大化するためのパフォーマンス最適化I/Oパターンを適用すること。

実験結果

リサーチクエスチョン

• RQ1 大規模な高エネルギー物理学実験における、選択的リトリーブを加速するための、イベントデータの恒久的ストレージレイアウトをどのように最適化できるか？
• RQ2 カラム単位のストレージレイアウトは、ATLASにおけるイベントレベルのデータアクセスのI/Oパフォーマンスにどのような影響を与えるか？
• RQ3 新しいROOT I/O機能は、物理学解析におけるデータリトリーブ効率をどの程度向上できるか？
• RQ4 アクセス速度とスケーラビリティの観点から、従来の行単位のストレージと比較して、新しいレイアウトはどのように異なるか？
• RQ5 メタデータ駆動のクエリシステムは、最適化されたストレージレイアウトを効果的に活用することで、I/Oオーバーヘッドをどの程度低減できるか？

主な発見

• 新しいカラム単位の恒久的レイアウトにより、ATLASにおける選択的イベントリトリーブのI/O遅延が顕著に短縮された。
• 最適化されたストレージレイアウトにより、不要なデータ読み込みを最小限に抑え、個々のイベントへのアクセスが高速化された。
• 分析ワークロードにおけるランダムアクセスパターンとの整合性を高め、より良い圧縮効果を実現することで、パフォーマンスの向上が達成された。
• TAGデータベースおよびWebインターフェースを通じた効率的なクエリ駆動アクセスが可能となり、データ転送オーバーヘッドが低減された。
• このアプローチはペタバイトレベルのデータセットに対しても効果的にスケーリングされ、多様な分析ユースケースにおいて高いパフォーマンスを維持した。
• 新しいROOT I/O機能とATLASのメタデータインfra構造の統合により、実用的で生産環境対応のパフォーマンス向上が実現された。