[論文レビュー] Parallel and distributed Gröbner bases computation in JAS

Heinz Kredel|arXiv (Cornell University)|Jul 30, 2010

Polynomial and algebraic computation参考文献 24被引用数 3

ひとこと要約

本稿では、Java代数システム（JAS）における並列および分散Gröbner基底計算のための分散ハイブリッドアルゴリズムを提示する。この手法は、マルチコアノードにおける共有メモリ並列処理と、単一の制御チャネルを介したノード間分散メモリ通信を組み合わせるものであり、別個の分散データ構造を用いて非同期で多項式を転送することで、通常の例において顕著な高速化を達成している。性能はInfiniBandネットワークを用いたグリッドクラスタ上で検証された。

ABSTRACT

This paper considers parallel Gröbner bases algorithms on distributed memory parallel computers with multi-core compute nodes. We summarize three different Gröbner bases implementations: shared memory parallel, pure distributed memory parallel and distributed memory combined with shared memory parallelism. The last algorithm, called distributed hybrid, uses only one control communication channel between the master node and the worker nodes and keeps polynomials in shared memory on a node. The polynomials are transported asynchronous to the control-flow of the algorithm in a separate distributed data structure. The implementation is generic and works for all implemented (exact) fields. We present new performance measurements and discuss the performance of the algorithms.

研究の動機と目的

• Javaのような現代的なオブジェクト指向言語において、スケーラブルで型安全な並列Gröbner基底アルゴリズムを設計および実装すること。
• HPCクラスタにおける分散Gröbナーベース計算における負荷の不均衡と通信オーバーヘッドの課題に対処すること。
• 共有メモリ、純粋な分散メモリ、およびハイブリッド（共有＋分散）アプローチの3つの並列化戦略の性能を評価すること。
• ハイパフォーマンスネットワーキングと効率的なメモリ管理を用いて、実世界のHPC環境向けにアルゴリズムを最適化すること。
• JASがサポートするすべての正確な体に適応可能な汎用的で拡張可能かつスレッドセーフな実装を提供すること。

提案手法

• 分散ハイブリッドアルゴリズムは、マスターノードとワーカーノード間で単一の制御チャネルを用い、各ノードごとに共有メモリに多項式を格納することで通信オーバーヘッドを低減する。
• 多項式の転送を制御フローから分離し、別個の分散データ構造を用いることで、非同期通信と負荷のバランス改善を実現する。
• システムはJavaのジェネリック型を活用して正確な体をサポートし、すべての代数演算において型安全かつスレッドセーフを保証する。
• 3つの並列化戦略を実装している：純粋な共有メモリスレーディング、ノード間通信を伴う純粋な分散メモリ、および両方を組み合わせたハイブリッドモデル。
• 正しさとパフォーマンスを維持するために、終了検出、ワークロードバランス、および臨界対の選択戦略が慎重に設計されている。
• 性能評価は、InfiniBandおよびイーサネットを用いたグリッドクラスタ上で実施され、実世界のGröbner基底例を用いて、スループットとスケーラビリティを測定している。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッド並列化モデルは、純粋な共有メモリおよび純粋な分散メモリアプローチと比較して、パフォーマンスおよびスケーラビリティの面でどのように異なるか？
• RQ2 一部のワーカーが他のワーカーよりも多くの作業を受けるという「負荷のパラドックス」は、並列Gröbner基底計算の効果性をどの程度制限するか？
• RQ3 別個の分散データ構造を介した非同期多項式転送は、分散メモリシステムにおけるパフォーマンス向上と通信ボトルネックの低減に寄与するか？
• RQ4 臨界対の選択戦略の違いが、並列Buchbergerアルゴリズムの収束性と効率性に与える影響は何か？
• RQ5 高速ネットワーキング（例：InfiniBand）は、分散Gröbner基底計算のパフォーマンスにどのような影響を及えるか？

主な発見

• 分散ハイブリッドアルゴリズムは、最適なノードおよびCPU構成を用いる場合、特に通常の例で顕著な高速化を達成している。
• InfiniBandネットワークでは標準のイーサネットよりも顕著にパフォーマンスが向上しており、低遅延通信の重要性が浮き彫りになった。
• 負荷のパラドックスは、不利な状況ではスケーラビリティを制限しており、多項式数が275から564に増加し、還元回数が1577から1717に増加し、並列効率が低下している。
• テストされたワークロードにおいて、最初の完了還元結果を選択する第一の選択戦略が、シーケンスベースの戦略よりも優れた性能とより高い頑健性を示した。
• 実装は型安全で、汎用的であり、すべての正確な体をサポートしており、将来的な拡張を可能にする強固なソフトウェア工学的基盤を示している。
• システムの設計は、将来の最適化を可能としており、直接InfiniBand通信、フォールトトレランス、および複数の項順序による高レベルの並列化が可能である。