[論文レビュー] Generating Custom Code for Efficient Query Execution on Heterogeneous Processors

Sebastian Breß, Bastian Köcher+3 more|arXiv (Cornell University)|Sep 3, 2017

Parallel Computing and Optimization Techniques参考文献 45被引用数 6

ひとこと要約

この論文では、並列化戦略、データ構造の最適化、コード変換を探索することで、CPU、GPU、Intel Xeon Phi (MIC) などの異種プロセッサ向けにカスタムコードのバリエーションを自動生成する、ハードウェアに適応するクエリコンパイラ「Hawk」を提案する。学習ベースの戦略を用いて各プロセッサごとに最速のバリエーションを選択し、汎用コードと比較して最大100倍の性能向上を達成する。

ABSTRACT

Processor manufacturers build increasingly specialized processors to mitigate the effects of the power wall to deliver improved performance. Currently, database engines are manually optimized for each processor: A costly and error prone process. In this paper, we propose concepts to enable the database engine to perform per-processor optimization automatically. Our core idea is to create variants of generated code and to learn a fast variant for each processor. We create variants by modifying parallelization strategies, specializing data structures, and applying different code transformations. Our experimental results show that the performance of variants may diverge up to two orders of magnitude. Therefore, we need to generate custom code for each processor to achieve peak performance. We show that our approach finds a fast custom variant for multi-core CPUs, GPUs, and MICs.

研究の動機と目的

• 現代のデータベースにおけるプロセッサの異種性が増す中で、手動でのチューニングが高コストかつミスを引き起こしやすいという課題に対処すること。
• 各プロセッサごとの手動コード最適化の必要性を排除し、自動的かつハードウェアに適応したコード生成を可能にすること。
• 各プロセッサに対して複数のコードバリエーションを探索・評価し、最高性能を発揮する構成を特定すること。
• 学習で得た最適な構成をヒューリスティッククエリオプティマイザーに統合し、実世界での展開を可能にすること。
• 同じクエリとプロセッサに対して、コードバリエーション間の性能差が最大2桁の違いに達することを示し、最適化されたコードがピークパフォーマンスを発揮するために不可欠であることを実証すること。

提案手法

• システム的なコード生成を可能にするために、操作と実装の特性を捉える新しい物理的クエリプラン抽象化としてのパイプラインプログラムを導入する。
• 並列化戦略、データ構造のレイアウト、コンパイラ変換の変更を通じて、体系的にコードバリエーションを生成する。
• クエリオペレータをOpenCLカーネルにコンパイルすることで、OpenCL対応プロセッサであれば任意のプロセッサで実行可能となり、コンパイルのオーバーヘッドを低減する。
• 実行時パフォーマンス測定に基づき、各ターゲットプロセッサに最適なコードバリエーションを選択する学習戦略を採用する。
• 学習で得た最適な構成をヒューリスティッククエリオプティマイザーに統合し、実行時における実行パスの動的選択を可能にする。
• コード生成のために生産/消費モデルを採用し、タプルをレジスタで処理することで、ループの統合とデータ局所性の向上を実現する。

実験結果

リサーチクエスチョン

• RQ1 手動チューニングなしで、多様な異種プロセッサ向けに高パフォーマンスなコードをデータベースクエリコンパイラが自動生成する方法は何か？
• RQ2 CPU、GPU、MICにおけるパフォーマンスに最も顕著な影響を与えるコード変異の次元（並列化戦略、データレイアウト、変換など）は何か？
• RQ3 コードバリエーション間のパフォーマンス差は、異なるプロセッサタイプによってどの程度変動するのか？ そして、これを体系的に活用できるか？
• RQ4 最小限のプロファイリングオーバーヘッドで、学習ベースのアプローチが特定のプロセッサに最適なコードバリエーションを的確に同定できるか？
• RQ5 ハードウェアに適応するコード生成をクエリオプティマイザーに統合することで、実行時に最速の実行パスを動的選択できるか？

主な発見

• 同じクエリとプロセッサに対して、コードバリエーション間のパフォーマンス差が最大2桁の違いに達することを示し、プロセッサごとのコード特化の重要性が明確になった。
• 提案手法は、自動的なバリエーション探索を通じて、マルチコアCPU、GPU、Intel Xeon Phi (MIC)アクセラレータ向けに高パフォーマンスなコードを効果的に生成できた。
• 学習ベースの最適なコードバリエーション選択により、事前のハードウェア知識や手動チューニングを一切必要とせずに顕著なパフォーマンス向上が達成された。
• パイプラインプログラムの抽象化により、柔軟で保守性が高く、モジュラーなコード生成が可能になった一方で、パフォーマンスに重要な最適化を損なわなかった。
• 学習で得た構成をヒューリスティッククエリオプティマイザーに統合することで、実行時における最速の実行バリエーションの選択が可能になり、全体のシステム効率が向上した。
• 同じコードをあらゆるプロセッサで使用するハードウェアに無関心なシステム（例：Ocelot）と比較して、プロセッサ固有の高パフォーマンスカーネルを生成することで、本手法は優れた性能を発揮した。