[論文レビュー] Enabling Rapid Development of Parallel Tree Search Applications

Jeffrey P. Gardner, Andrew J. Connolly+1 more|ArXiv.org|Sep 12, 2007

Parallel Computing and Optimization Techniques参考文献 11被引用数 7

ひとこと要約

この論文では、LSST や Pan-STARRS などの大規模天体調査から得られるテラバイト級の天体データセット向けに、並列木探索アプリケーションの迅速な開発を可能にする高性能ライブラリ Ntropy を紹介する。アジェンダベース並列処理とリモートメソッド呼び出し（RMI）を組み合わせ、知的なデータキャッシュを実装することで、Ntropy は並列プログラミングの専門知識がほとんどいらない状態で、効率的かつスケーラブルな木アルゴリズムの開発を可能にし、シリアライズ実装と比較して6–30倍の高速化を達成し、分散システム上でも優れた並列スケーラビリティを示した。

ABSTRACT

Virtual observatories will give astronomers easy access to an unprecedented amount of data. Extracting scientific knowledge from these data will increasingly demand both efficient algorithms as well as the power of parallel computers. Nearly all efficient analyses of large astronomical datasets use trees as their fundamental data structure. Writing efficient tree-based techniques, a task that is time-consuming even on single-processor computers, is exceedingly cumbersome on massively parallel platforms (MPPs). Most applications that run on MPPs are simulation codes, since the expense of developing them is offset by the fact that they will be used for many years by many researchers. In contrast, data analysis codes change far more rapidly, are often unique to individual researchers, and therefore accommodate little reuse. Consequently, the economics of the current high-performance computing development paradigm for MPPs does not favor data analysis applications. We have therefore built a library, called Ntropy, that provides a flexible, extensible, and easy-to-use way of developing tree-based data analysis algorithms for both serial and parallel platforms. Our experience has shown that not only does our library save development time, it can also deliver excellent serial performance and parallel scalability. Furthermore, Ntropy makes it easy for an astronomer with little or no parallel programming experience to quickly scale their application to a distributed multiprocessor environment. By minimizing development time for efficient and scalable data analysis, we enable wide-scale knowledge discovery on massive datasets.

研究の動機と目的

• LSST や Pan-STARRS などの調査から得られる大規模でマルチテラバイト級の天体データセットを分析するという、ますます深刻化する課題に対処すること。
• 大規模並列プラットフォーム（MPP）上でスケーラブルな並列木探索アルゴリズムを書く際の高い開発コストと複雑さを低減すること。
• 並列プログラミング経験が少ない天文学者が、数千プロセッサにまで効率的に木ベースのデータ解析をスケーリングできるようにすること。
• アルゴリズムの再実装なしに、シリアライズ実行から並列実行へのスムーズな移行を可能にすること。
• 不規則な木構造データに対して、共有メモリプログラミングの使いやすさと分散コンピューティングのスケーラビリティを統合すること。

提案手法

• Ntropy ライブラリは、リモートコンピュートノード上でユーザー定義サブルーチンを実行するためにリモートメソッド呼び出し（RMI）を使用し、分散メモリシステム上でも共有メモリに似たプログラミングモデルを提供する。
• グラフや木などのユーザー定義共有不規則データ構造をサポートし、低レベルの通信詳細を抽象化する。
• 木のノードをメモリ上に配置することで、1つの「次へのポインタ」による連続的かつキャッシュフレンドリーな走査を可能にし、メモリアクセスを最小限に抑え、シリアライズ性能を向上させる。
• リモートデータの更新を一時的にローカルに蓄積し、一括でフラッシュすることで、木の走査中の通信オーバーヘッドを削減するキャッシュ機構を採用する。
• 分割統治の木走査をプロセス仮想化によって実装し、プロセッサ間での負荷をバランスさせつつ、データ移動を最小限に抑える。
• 並列化の選択的デプロイメントを統合し、データアクセスパターンや性能特性に基づいて、並列化が有益な場所にのみ並列化を適用できるようにする。

実験結果

リサーチクエスチョン

• RQ1 プログラミングライブラリが、天体データ向けにスケーラブルな並列木探索アルゴリズムを開発する際の時間と複雑さを顕著に短縮できるか？
• RQ2 不規則なデータ構造に対して、分散メモリで大規模並列プラットフォーム上で共有メモリプログラミング抽象化を効果的に提供できるか？
• RQ3 アルゴリズムの再設計なしに、高いシリアライズ性能と強い並列スケーラビリティを両立できるか、その程度はどの程度か？
• RQ4 リモートメソッド呼び出し（RMI）を用いて、木ベースのデータ解析において粗粒度で柔軟な並列化を効果的に実現できるか？
• RQ5 知的なキャッシュとデータプリフェッチ戦略により、分散木走査における通信オーバーヘッドをどの程度まで低減できるか？

主な発見

• Ntropy は、nポイント相関関数計算において広く使われているシリアライズ実装 'npt' と比較して、6〜30倍の高速化を達成した。
• ライブラリのメモリレイアウトにより、効率的で連続的な木走査が可能になり、キャッシュ利用率が向上し、シリアライズ性能が顕著に向上した。
• Ntropy は強い並列スケーラビリティを示し、数千プロセッサ上で木ベースのアルゴリズムを効率的に実行できるようにし、開発者の作業負荷を最小限に抑えた。
• RMI と共有メモリ抽象化の使用により、科学者が低レベルの並列プログラミングモデルに縛られることなく、自然で直感的な方法でアルゴリズムを記述できるようになった。
• リモートデータ更新のキャッシュにより、通信遅延が低減され、特に不規則で予測不能な木走査パターンにおいて性能向上が顕著に現れた。
• ライブラリはシームレスなアップグレードパスを提供し、同じコードが再実装なしにワークステーションでも大規模スーパーコンピュータでも効率的に実行可能となった。