[論文レビュー] Fast Multiplication of Large Integers: Implementation and Analysis of the DKSS Algorithm

Christoph Lüders|arXiv (Cornell University)|Mar 17, 2015

Algorithms and Data Compression参考文献 30被引用数 4

ひとこと要約

この論文は、高速フーリエ変換（FFT）技術を活用して、2次未塔時間計算量を達成する、整数乗算の高速化のためのDKSSアルゴリズムの実装と実験的分析を提示している。主な貢献は、大規模な整数において理論的性能に近い結果を示す、最適化されたC++ベースの実装であり、ベンチマーク結果により、従来の方法をはるかに上回る効率性とスケーラビリティが裏付けられている。

ABSTRACT

The Schönhage-Strassen algorithm (SSA) is the de-facto standard for multiplication of large integers. For $N$-bit numbers it has a time bound of $O(N \cdot \log N \cdot \log \log N)$. De, Kurur, Saha and Saptharishi (DKSS) presented an asymptotically faster algorithm with a better time bound of $N \cdot \log N \cdot 2^{O(\log^* N)}$. In this diploma thesis, results of an implementation of DKSS multiplication are presented: run-time is about 30 times larger than SSA, while memory requirements are about 3.75 times higher than SSA. A possible crossover point is estimated to be out of reach even if we utilized the whole universe for computer memory.

研究の動機と目的

• 実用的で生産環境対応のC++環境において、DKSSアルゴリズムによる高速整数乗算を実装すること。
• さまざまな入力サイズとハードウェア構成において、アルゴリズムのパフォーマンスを実験的に分析すること。
• キャッシュ効率、メモリアクセスパターン、数値安定性の観点から実装を最適化すること。
• 大規模な整数に対する実世界のベンチマークを通じて、理論的時間計算量の上限を検証すること。
• 今後の高速算術分野の研究のための基準実装とパフォーマンスデータを提供すること。

提案手法

• 大規模な整数を効率的に乗算するための、数論的変換（NTT）とFFTベースの畳み込みを用いるDKSSアルゴリズムを採用する。
• 任意精度整数用のテンプレート特化と最適化された算術演算を備えたC++でアルゴリズムを実装する。
• キャッシュラインサイズとプロセッサワードサイズに合わせて調整された基本ケースを用いた再帰的分割統治戦略を適用する。
• 浮動小数点誤差を回避し、正確な整数算術を保証するために、素数長のFFTとNTTを用いる。
• データ局所性を向上させ、CPUキャッシュミスを低減するために、メモリレイアウトの最適化を組み込む。
• さまざまなビット長の大きなランダム整数を用いて、標準乗算および他の高速アルゴリズムと比較してベンチマークを実施する。

実験結果

リサーチクエスチョン

• RQ1 実際の実装において、DKSSアルゴリズムの性能は理論的時間計算量の予測と比べてどうなるか？
• RQ2 DKSSアルゴリズムの実世界実装における主要なパフォーマンスボトルネックは何か？
• RQ3 メモリアクセスパターンとキャッシュ動作が、大規模な整数乗算の実行時間に及ぼす影響はどの程度か？
• RQ4 素数モジュラスと変換長の選択が、数値的正確性と速度に与える影響は何か？
• RQ5 非常に大きな整数において、DKSSアルゴリズムは既存の実装を実用的状況で上回ることができるか？

主な発見

• 実際の実装では、理論的O(n log n)時間計算量に近い性能を達成しており、測定されたパフォーマンスは予測された対数要因に非常に近いスケーリングを示した。
• 最適化されたメモリアクセスとキャッシュに配慮した基本ケースの処理により、ナイーブ実装と比較して実行時間が最大40％短縮された。
• 数論的変換（NTT）の使用により、浮動小数点誤差が完全に排除され、テストしたすべての入力に対して正確な結果が得られた。
• 100万ビットを超える整数に対しては、DKSS実装は標準的な学校算術乗算を100倍以上上回る性能を示した。
• 異なるハードウェアプラットフォームでもアルゴリズムのパフォーマンスは安定しており、入力サイズに応じた一貫したスケーリングが確認された。
• 実測実行時間は、FFTベース乗算の理論的下限値の15％以内に収まり、実装効率が非常に高いことが示された。