[論文レビュー] Parallel Model Counting with CUDA: Algorithm Engineering for Efficient Hardware Utilization

Jeffrey M. Dudek, Moshe Y. Vardi+1 more|arXiv (Cornell University)|Jun 28, 2020

Tensor decomposition and applications参考文献 64被引用数 8

ひとこと要約

この論文では、TensorFlowベースのテンソル結合と木分解ソルバのパフォルマンスアーカイブを用いて、マルチコアCPUとGPUを活用する並列重み付きモデルカウンティング手法、TensorOrder2を提示する。並列計画とインデックススライ싱で強化されたGPUアクセラレート実行を組み合わせることで、前処理後の11%のベンチマークで既存のカウンターよりも優れた性能を発揮し、PAR-2スコアは2番目に低く、パフォルマンスアーカイブ戦略として有効であることが示された。

ABSTRACT

A promising new algebraic approach to weighted model counting makes use of tensor networks, following a reduction from weighted model counting to tensor-network contraction. Prior work has focused on analyzing the single-core performance of this approach, and demonstrated that it is an effective addition to the current portfolio of weighted-model-counting algorithms. In this work, we explore the impact of multi-core and GPU use on tensor-network contraction for weighted model counting. To leverage multiple cores, we implement a parallel portfolio of tree-decomposition solvers to find an order to contract tensors. To leverage a GPU, we use TensorFlow to perform the contractions. We compare the resulting weighted model counter on 1914 standard weighted model counting benchmarks and show that it significantly improves the virtual best solver.

研究の動機と目的

• 現代の並列処理およびGPUハードウェアを活用することで、テンソルネットワークベースの重み付きモデルカウンティングの性能を向上させること。
• Tensorネットワーク結合のボトルネックを解消し、TensorFlowとインデックススライシングを用いて効率的なGPU実行を可能にすること。
• 並列パフォルマンスアーカイブとしての木分解ソルバの組み合わせを導入することで、単一コアアプローチを凌駕する計画の効率性を向上させること。
• 前処理および実行段階を含む、完全な重み付きモデルカウンティングパイプラインにおけるマルチコアおよびGPUアクセラレーションの影響を評価すること。
• その結果得られるシステム、TensorOrder2が最先端の重み付きモデルカウンタのパフォルマンスアーカイブに競争力を持って組み込まれることを示すこと。

提案手法

• 単一コアの木分解ソルバ（例：Tamaki, FlowCutter, htd, Hicks）の並列パフォルマンスアーカイブを、テンソルネットワーク結合の計画段階の高速化に用いる。
• Tensorの結合処理をTensorFlowを介してGPUにオフロードし、大規模なテンソルネットワークにおける高スループット計算を実現する。
• インデックススライシングを実装することでGPUメモリ使用量を削減するが、計算時間の増加を伴う。これにより、より大きなインスタンスの処理が可能になる。
• 異なるハードウェア構成（CPU1, CPU8, GPU）における実行を最適化するためのパフォーマンス要因最適化戦略を統合する。
• 3段階のアルゴリズムを採用する：(1) 重み付きモデルカウンティングをテンソルネットワーク結合に還元する、(2) ソルバを用いた結合順序の計画、(3) TensorFlowを用いたGPUアクセラレート実行。
• pmc-eqプレプロセッサとの統合をサポートしており、これはハードなベンチマークにおいて顕著な性能向上をもたらす。

実験結果

リサーチクエスチョン

• RQ1 単一コアソルバと比較して、木分解ソルバの並列パフォルマンスアーカイブは計画性能を顕著に向上させるか？
• RQ2 TensorFlowとインデックススライシングによるGPUアクセラレーションは、重み付きモデルカウンティングのテンソルネットワーク結合において測定可能な高速化をもたらすか？
• RQ3 前処理を施した・しない状況において、提案されたTensorOrder2の性能は最先端のカウンターよりも優れているか？
• RQ4 ブランチ分解ソルバはパフォルマンスアーカイブに効果的に統合可能であり、全体の性能向上に寄与するか？
• RQ5 多様なベンチマークにおいてソルバ効率を最大化するための最適なハードウェア構成とパフォーマンス要因は何か？

主な発見

• 前処理後の1,914個のベンチマークのうち、P4パフォルマンスアーカイブとGPU構成を用いたTensorOrder2は1,549個を解決し、総解決数で2位、PAR-2スコアでも2位を記録した。
• P4+GPU構成は、前処理を施したベンチマーク200個と、前処理を施さないベンチマーク158個において最速の性能を発揮し、これらのセットでは他のすべてのカウンターよりも優れていた。
• インデックススライシングによりメモリ使用量が顕著に削減され、より大きなインスタンスのGPU実行が可能になったが、計算時間の増加が生じた。しかし、ハードなベンチマークではGPUの高速化がこれを相殺した。
• 木分解ソルバの並列パフォルマンスアーカイブ（P4）は、単一コアソルバと比較して計画時間の短縮を実現した。特にP4+CPU8構成は、計画段階で最良の性能を示した。
• ブランチ分解ソルバは理論的にはパフォルマンスアーカイブに統合可能であったが、実際の影響は限定的であり、全体の解の品質向上に寄与しなかった。
• GPU構成は実行段階で最も高い高速化を達成したが、特にハードなベンチマークで顕著であった。一方、CPUの並列処理は計画段階での利得はわずかであった。