[論文レビュー] Active Libraries: Rethinking the roles of compilers and libraries

Todd L. Veldhuizen, Dennis Gannon|ArXiv.org|Oct 5, 1998

Parallel Computing and Optimization Techniques参考文献 21被引用数 123

ひとこと要約

この論文は、表現テンプレート、テンプレートメタプログラミング、部分評価などの技術を活用して、コンパイル時に最適化されたコードを生成し、アルゴリズムを特化させ、ターゲットハードウェアに合わせて自己構成する、能動的なソフトウェアライブラリであるアクティブライブラリを紹介する。アクティブライブラリは、C++における高パフォーマンスでドメイン特化された抽象化を実現するとともに、デバッグやプロファイリングツールに対する包括的なサポートを提供する。

ABSTRACT

We describe Active Libraries, which take an active role in compilation. Unlike traditional libraries which are passive collections of functions and objects, Active Libraries may generate components, specialize algorithms, optimize code, configure and tune themselves for a target machine, and describe themselves to tools (such as profilers and debuggers) in an intelligible way. Several such libraries are described, as are implementation technologies.

研究の動機と目的

• 科学計算向けのドメイン特化された抽象化の最適化において、従来の受動的ライブラリに見られる制限を解消すること。
• C++におけるオブジェクト指向の抽象化が、意味論的知識が欠如しているため、コンパイラの最適化を妨げる非効率性を克服すること。
• 科学計算の分野において、言語拡張やドメイン特化言語（DSL）の代替としてスケーラブルで保守可能な代替案を提供すること。
• ライブラリがユーザー定義の意味論を公開することで、デバッガーやプロファイラーといった開発ツールと知的に連携できるようにすること。
• 能動的コンパイル技術が、手動最適化されたコードと同等のパフォーマンスを実現しつつも、高レベルの抽象化を維持できることを実証すること。

提案手法

• 表現テンプレートを用いて、コンパイル時にカスタム評価カーネルを生成し、一時配列を排除するとともに、タイリングや再配置などのループ最適化を可能にする。
• テンプレートメタプログラミングを適用して、小さなベクトルや行列に対してアルゴリズムを特化させ、完全なループアンローリングとインライン展開を実現し、ランタイムのオーバーヘッドを回避する。
• 部分評価技術を活用して、一般向けコンponentをランタイムの設定チェックを排除する特殊化されたジェネレータに変換する。
• コンパイル時に制御構造や変数を制御できる二段階（多段階）言語を用い、@で注釈を付けることで、コード生成を簡素化する（例：固定サイズの演算に対してアンロールドループを生成）。
• 拡張可能なフックを通じてライブラリとプロファイリング・デバッグツールを統合し、ライブラリの内部構造を人間が読める形式（例：テンプレート型ではなく「A = B + C」と表示）で記述できるようにする。
• Tauなどのツールを活用して、パフォーマンスのオーバーヘッドをユーザー定義の式に割り当てる（例：「A = B + C」に）。これにより、ツールの使いやすさとデバッグの明確さが向上する。

実験結果

リサーチクエスチョン

• RQ1 科学計算ライブラリは、どのようにして高レベルの抽象化と手動最適化されたコードと同等のパフォーマンスを両立できるか？
• RQ2 コンパイラの分析に依存せずに、コンパイル時に最適化されたコードを生成できる技術は何か？
• RQ3 ライブラリがコンパイルプロセスに能動的に参加することで、最適化、構成、ツール統合を改善できるか？
• RQ4 デバッグやプロファイリングツールは、どのように拡張すれば、ライブラリの抽象化をユーザーフレンドリーな形で理解・表示できるか？
• RQ5 メタプログラミングと部分評価は、特定のハードウェアや問題サイズに最適化された効率的なコードを生成するために、どのように役立つか？

主な発見

• Blitz++は、一時オブジェクトを排除し、ループ最適化を適用する表現テンプレートを用いることで、手動最適化されたFortranコードの10％以内のパフォーマンスを達成している。
• Blitz++におけるテンプレートメタプログラミングにより、小さな配列に対して完全なループアンローリングとインライン化が可能になり、抽象化レイヤーのパフォーマンスペナルティが解消されている。
• アクティブライブラリは、特定のベクトル長（例：アンロールドドット積）に対して特殊化されたコードを生成でき、コンパイル時の特化によってパフォーマンスが向上している。
• 部分評価技術により、一般コンponentがランタイムの設定チェックを排除する特殊化ジェネレータに変換可能であり、効率性が向上している。
• Tauなどのプロファイリングツールとの統合により、パフォーマンスのオーバーヘッドをユーザー定義式（例：「A = B + C」）に割り当てられるようになり、ツールの使いやすさとデバッグの明確さが向上している。
• 二段階言語により、コンパイル時の制御構造や変数を扱えるようになり、テンプレートメタプログラミングに比べて複雑さが低減され、コード生成が簡素化されている。