[論文レビュー] Fast normal random number generators on vector processors

Richard P. Brent|arXiv (Cornell University)|Apr 19, 2010

Algorithms and Data Compression参考文献 14被引用数 13

ひとこと要約

この論文では、富士通VP2200/10のようなベクタープロセッサ上で高速で高品質な正規乱数を生成するための、ボックス＝ムラー法およびポーラー法の最適化されたベクタライズド実装を提示している。アルゴリズムの改善と三角関数の高速多項式近似を用いることで、ポーラー法は1正規デバイエートあたり21.9サイクルという優れた性能を達成し、このアーキテクチャ上での標準ボックス＝ムラー法や他の反復法を上回った。

ABSTRACT

We consider pseudo-random number generators suitable for vector processors. In particular, we describe vectorised implementations of the Box-Muller and Polar methods, and show that they give good performance on the Fujitsu VP2200. We also consider some other popular methods, e.g. the Ratio method of Kinderman and Monahan (1977) (as improved by Leva (1992)), and the method of Von Neumann and Forsythe, and show why they are unlikely to be competitive with the Polar method on vector processors.

研究の動機と目的

• 高性能なベクタープロセッサ向けに効率的でベクタライズ可能な正規乱数生成器を開発すること。
• 古典的正規乱数生成法（ボックス＝ムラー法、ポーラー法、レシオ法、ボン・ネウマン–フォースター法）をベクターアーキテクチャ上で評価・比較すること。
• 高価な超越関数の代わりに高速な多項式近似を用いることで計算オーバーヘッドを最小限に抑え、反復ロジックを最適化すること。
• 適切にベクタライズされた場合、単純で古くからの方法が、複雑に最適化されたシリアルアルゴリズムを上回ることを示すこと。

提案手法

• sinおよびcos関数の高速インライン多項式近似を用いたボックス＝ムラー法のベクタライズド実装により、高価なライブラリ呼び出しへの依存を減らした。
• 単位円内での反復抽出を用いるポーラー法（マーサグリア–ブレイ変種）を採用し、三角関数を回避。1ペアのデバイエートあたり1回の平方根と対数関数に置き換えた。
• 反復ループを効率的に処理するため、ベクターゲザー/スキャッター操作を活用。これにより、ベクターアーキテクチャ上で高スループットの生成が可能になった。
• 超越関数（ln、sqrt、sin、cos）の最適化として、絶対誤差が10⁻¹⁰未満となる多項式近似を用い、統計的品質を保証した。
• 均一乱数生成に一般化フィボナッチ生成子RANU4を用い、VP2200/10上では1数値あたり2.2サイクルのコストを達成した。
• 比較のため、レシオ法およびボン・ネウマン–フォースター（GRAND）法を実装。非効率なベクターチェーンと散らばった制御フローにより、ベクタライズ化が困難であることが分析された。

実験結果

リサーチクエスチョン

• RQ1 ボックス＝ムラー法やポーラー法といった古典的手法が、高性能コンputング向けに効果的にベクタライズ可能か？
• RQ2 レシオ法やGRAND法といった反復法は、シリアルマシンでは効率的であるが、なぜベクタープロセッサでは性能が著しく劣るのか？
• RQ3 ベクタライズド生成器において、高価な超越関数（sin、cos、ln）の使用と、均一乱数の増加生成および反復ロジックの増加との間で、性能のトレードオフは何か？
• RQ4 三角関数の高速多項式近似は、出力の性能と統計的品質にどのように影響を与えるか？
• RQ5 富士通VP2200/10のようなベクタープロセッサ向けに、最適なベクタライズド正規乱数生成器アーキテクチャは何か？

主な発見

• ベクタライズドポーラー法は、富士通VP2200/10上で1正規デバイエートあたり21.9マシンサイクルを達成し、最良のボックス＝ムラー法（26.3サイクル）を上回った。
• sinおよびcos関数の高速多項式近似の使用により、三角関数評価のコストが削減され、ボックス＝ムラー法の効率的なベクタライズ化が可能になった。
• レシオ法は対数関数の評価を減らしたが、ベクターゲザー/スキャッター操作の高いオーバーヘッドと出力レートの低さ（1サイクルあたり半分のデバイエート数）により、性能で劣った。
• GRANDや類似の反復的反復法は、反復回数が無限大になり得る上に、複雑な領域ベースの反復ロジックを持つため、ベクタライズ化に不適切であり、性能が著しく劣った。
• ポーラー法の反復ステップは、平均して1デバイエートあたり4/π ≈ 1.27個の均一乱数を必要とするが、高価な三角関数が排除されたため、全体としてより効率的だった。
• 統計的品質は保持され、超越関数の近似誤差は10⁻¹⁰未満に抑えられ、最大10²⁰個の乱数を用いたテストでもバイアスが検出されなかった。