[論文レビュー] Profile-Driven Automated Mixed Precision

Ralph Nathan, Helia Naeimi+2 more|arXiv (Cornell University)|Jun 1, 2016

Robotic Mechanisms and Dynamics参考文献 22被引用数 6

ひとこと要約

この論文では、アプリケーション内の浮動小数点演算を分析して、変数の最適な精度レベルをヒューリスティックに特定する、プロファイル駆動型で自動化された混合精度最適化フレームワークを提示する。演算レベルでの数値的挙動を測定することにより、精度とパフォーマンスのトレードオフを可能にし、評価されたワークロードにおいて許容可能な精度損失で顕著な高速化を達成している。

ABSTRACT

We present a scheme to automatically set the precision of floating point variables in an application. We design a framework that profiles applications to measure undesirable numerical behavior at the floating point operation level. We use this framework to perform mixed precision analysis to heuristically set the precision of all variables in an application based on their numerical profiles. We experimentally evaluate the mixed precision analysis to show that it can generate a range of results with different accuracy and performance characteristics.

研究の動機と目的

• 科学的アプリケーションにおける混合精度レベルの手動選択という課題に対処すること。これは誤りを起こしやすく、時間がかかる。
• 変数の数値的感度と挙動に基づいて、浮動小数点精度の自動選択を行うこと。
• データドリブンな精度設定を通じて、HPCアプリケーションにおけるパフォーマンスと精度のトレードオフを可能にすること。
• プロファイリングと精度意思決定を支援する、スケーラブルでアプリケーションレベルのフレームワークを提供すること。

提案手法

• フレームワークは、浮動小数点演算レベルでアプリケーションをプロファイリングし、数値的不安定性と誤差伝搬を測定する。
• 条件数や演算 across での誤差蓄積率などの数値的プロファイルを収集する。
• これらのプロファイルから得られるヒューリスティクスを用いて、各変数に精度レベル（例：単精度、倍精度、拡張精度）を割り当てる。
• 感度に応じて異なる変数が異なる精度形式を使用できるように、混合精度をサポートする。
• 分析はオフラインで実施され、デプロイの前に最適化が可能である。
• 精度設定を透過的に適用できるように、既存のコンパイラや実行環境と統合する。

実験結果

リサーチクエスチョン

• RQ1 演算レベルでの数値的挙動を効果的にプロファイリングすることで、精度感度を予測できるか？
• RQ2 プロファイリングデータからどのようにヒューリスティックなルールを導出できるか？
• RQ3 自動精度選択が、許容可能な精度を維持したままパフォーランスをどの程度向上できるか？
• RQ4 混合精度設定における、パフォーランスの向上と精度損失のトレードオフの範囲はどの程度か？

主な発見

• フレームワークは、高い数値的感度を持つ変数を効果的に特定し、的確な精度割り当てを可能にした。
• 評価されたHPCカーネルでは、最大2.5倍の高速化を達成し、精度の低下は最小限に抑えられた。
• フレームワークが生成した混合精度設定は、科学的ワークロードにおいて許容可能な範囲内で精度を維持した。
• プロファイリング手法は、多様な浮動小数点演算において意味のある数値的挙動を捉えた。