[論文レビュー] Implementation of float-float operators on graphics hardware

Guillaume da Graçca, David Defour|arXiv (Cornell University)|Mar 29, 2006

Numerical Methods and Algorithms参考文献 15被引用数 26

ひとこと要約

この論文では、2つの単精度浮動小数点数を組み合わせることで44ビット精度を実現するfloat-float表現を用いた、GPU上でのソフトウェアレベルの44ビット浮動小数点演算のエミュレーションを提示している。このアプローチはGPUのストリーム処理機能を活用し、ネイティブに単精度浮動小数点演算しか提供しないハードウェアでも、より高い精度を必要とする応用分野において高速かつ正確な演算を実現する。測定された精度は、大多数の演算において理論的な期待値と一致している。

ABSTRACT

The Graphic Processing Unit (GPU) has evolved into a powerful and flexible processor. The latest graphic processors provide fully programmable vertex and pixel processing units that support vector operations up to single floating-point precision. This computational power is now being used for general-purpose computations. However, some applications require higher precision than single precision. This paper describes the emulation of a 44-bit floating-point number format and its corresponding operations. An implementation is presented along with performance and accuracy results.

研究の動機と目的

• GPUにデュアル精度浮動小数点サポートが欠如していることによる精度制限を是正すること。
• ネイティブに単精度浮動小数点演算しかサポートしないGPUハードウェア上で、より高い精度の算術演算を可能にすること。
• 2つの32ビット浮動小数点数を用いて44ビット精度をエミュレートするソフトウェアベースのfloat-float表現の開発および評価を行うこと。
• 現代のGPUにおけるfloat-float実装の性能および精度を評価し、特にCPUベースの実装と比較すること。
• 特に符号が異なる被演算子を含むエッジケースにおける精度の問題を特定および是正すること。

提案手法

• float-float表現は、数を2つの単精度浮動小数点数の和として格納することで、標準の32ビット浮動小数点数よりも高い精度を実現する。
• 加法、乗法、および統合乗加算（FMA）といった基本的な算術演算は、誤差補償を実現するアルゴリズムを用いて実装されている。
• アルゴリズムのプロトタイピングおよび効率的なテストのために、GPUプログラミングのための高水準言語Brookが使用されている。
• このアプローチは、GPUのネイティブな単精度浮動小数点演算およびテクスチャメモリを用いて中間結果を格納することに依存している。
• アルゴリズムは、命令レベルのオーバーヘッドを最小限に抑え、GPUのデータレベル並列性を最大限に活用するように設計されている。
• 独自のテストフレームワークが乱数テストベクトルを生成し、MPFRとの比較によって精度の検証が行われている。

実験結果

リサーチクエスチョン

• RQ1 ネイティブに23ビット仮数部を持つ単精度浮動小数点演算しかサポートしないGPU上で、ソフトウェアレベルのfloat-float表現が44ビット精度を達成できるか？
• RQ2 GPU上のfloat-float演算の性能は、特に大規模データセットに対してCPU上の同等の演算と比べてどうなるか？
• RQ3 float-float実装の実際の精度はどの程度で、理論的期待値からどの程度逸脱しているか？
• RQ4 加法演算Add22のような特定の演算で、予想よりも高い誤差が観測される理由は何か？これはハードウェア固有の挙動に起因する可能性があるか？
• RQ5 float-floatアプローチは、Cg や OpenGL といった低レベルGPU言語で効率的に最適化可能か？

主な発見

• Add12では最大で-48.0 ULPの観測誤差が確認され、理論的に期待される正確な結果よりもわずかに高い値であり、ハードウェア固有の丸め異常の可能性を示唆している。
• Mul12演算は理論的期待と整合的であり、選択された表現およびアルゴリズムに従って正確に実装されていることが確認された。
• Add22およびMul22演算では、それぞれ-33.7および-45.0 ULPの高い誤差が観測され、主にアルゴリズムの複雑さおよび被演算子間のエッジケースでの相互作用に起因している。
• GPU上で基本的なfloat-float演算（加算、乗算、FMA）の実行時間はほぼ同一であり、GPUドライバによる効率的な命令スケジューリングおよびマージが行われていることが示唆された。
• Add22およびMul22演算は基本演算の約2倍の時間がかかっており、内部のアルゴリズム的チェックによる計算コストの増加が原因であると判明した。
• GPUとCPUの性能差は顕著で、GPUワークロードではGPUがCPUを25倍、CPUワークロードでは3000倍の速度で処理を実行しており、大規模データ処理におけるGPUの効率性が顕著に示された。