[論文レビュー] Fast Sorting Algorithms using AVX-512 on Intel Knights Landing

Bérenger Bramas|arXiv (Cornell University)|Apr 24, 2017

Parallel Computing and Optimization Techniques被引用数 18

ひとこと要約

この論文では、Intel Knights LandingのAVX-512命令セットを最適化した、高性能でインプレースのソーティングアルゴリズムを提示する。小さなサブ配列に対してブランチフリーのビットォニックソートを組み合わせ、クイックソートの高速化を図るためのベクタライズドパーティショニングカーネルを採用しており、整数および倍精度浮動小数点データ型において、GNU C++ std::sortに比べ最大4倍の高速化を達成している。

ABSTRACT

This paper describes fast sorting techniques using the recent AVX-512 instruction set. Our implementations benefit from the latest possibilities offered by AVX-512 to vectorize a two-parts hybrid algorithm: we sort the small arrays using a branch-free Bitonic variant, and we provide a vectorized partitioning kernel which is the main component of the well-known Quicksort. Our algorithm sorts in-place and is straightforward to implement thanks to the new instructions. Meanwhile, we also show how an algorithm can be adapted and implemented with AVX-512. We report a performance study on the Intel KNL where our approach is faster than the GNU C++ sort algorithm for any size in both integer and double floating-point arithmetics by a factor of 4 in average.

研究の動機と目的

• Intel Knights Landingにおける最新のAVX-512命令セットを活用した、高速でインプレースのソーティングアルゴリズムの設計を目的とする。
• AVX-512命令を用いてパーティショニングフェーズをベクタライズ化することで、クイックソートの性能を向上させることを目的とする。
• AVX-512に最適化されたブランチフリーのビットォニックソーティングネットワークを用いて、小さなサブ配列の効率的ソーティングを実現することを目的とする。
• 現代のx86-64プロセッサ上で、高度なベクタライズドソーティング技術を実装する実用的で直感的な方法を示すこと。

提案手法

• アルゴリズムはハイブリッドアプローチを採用しており、小さなサブ配列は512ビットレジスタに最適化されたブランチフリーのビットォニックソート変種でソートされる。
• 16個の整数または倍精度浮動小数点数を1回の命令レベル演算で処理できるAVX-512命令を用いて、ベクタライズドパーティショニングカーネルが実装されている。
• パーティショニングカーネルは、AVX-512のガザーサターンと比較・交換操作を活用することで、効率的なインプレースソーティングを実現している。
• 全体的なクイックソートフレームワークは、ベクタライズドパーティショニングカーネルを用いることで、データ移動を削減し、命令レベル並列性を向上させている。
• 複雑なメモリアクセスパターンを避ける実装であり、性能向上のためにAVX-512の広いレジスタと高度な制御命令に依存している。

実験結果

リサーチクエスチョン

• RQ1 AVX-512命令をどのように効果的に活用して、クイックソートのパーティショニングフェーズを高速化できるか？
• RQ2 現代のx86-64プロセッサ上で、512ビットベクタユニットに最適化されたブランチフリーのビットォニックソートは、どの程度最適化できるか？
• RQ3 ベクタライズドパーティショニングと小さな配列用ビットォニックソートを組み合わせたハイブリッドソーティングアプローチは、標準ライブラリ実装を上回る性能を発揮できるか？
• RQ4 Intel Knights Landing上で、AVX-512最適化ソーティングは、さまざまなデータ型においてGNU C++ std::sortに比べてどの程度の性能向上を達成するか？

主な発見

• 提案されたAVX-512最適化ソーティングアルゴリズムは、Intel Knights Landing上でGNU C++ std::sortに比べ平均して4倍の高速化を達成している。
• 整数および倍精度浮動小数点ソーティングワークロードの両方において、入力サイズにかかわらず、GNU C++ std::sortを上回る性能を発揮している。
• ベクタライズドパーティショニングカーネルは、メモリアクセス回数を顕著に削減し、命令レベル並列性を向上させている。
• 小さなサブ配列用のブランチフリーのビットォニック変種は、パイプラインスタガを低減させ、AVX-512対応プロセッサにおけるキャッシュ効率を向上させている。