[論文レビュー] Augmenting Operating Systems With the GPU

Weibin Sun, Robert Ricci|arXiv (Cornell University)|May 15, 2013

Parallel Computing and Optimization Techniques参考文献 15被引用数 13

ひとこと要約

本論文では、LinuxカーネルがAES暗号化やネットワークパケット処理などの計算集約的タスクをGPUをコプロセッサとしてオフロードできるフレームワーク「KGPU」を提案する。ピン止めメモリとユーザースペースヘルパーを用いたメッセージパッシングパイプラインにより、GPUコールのレイテンシを低減し、大容量データブロックにおけるAES-ECB暗号化で最大6倍の高速化を達成した。これはGPU拡張型オペレーティングシステムの実現可能性を示している。

ABSTRACT

The most popular heterogeneous many-core platform, the CPU+GPU combination, has received relatively little attention in operating systems research. This platform is already widely deployed: GPUs can be found, in some form, in most desktop and laptop PCs. Used for more than just graphics processing, modern GPUs have proved themselves versatile enough to be adapted to other applications as well. Though GPUs have strengths that can be exploited in systems software, this remains a largely untapped resource. We argue that augmenting the OS kernel with GPU computing power opens the door to a number of new opportunities. GPUs can be used to speed up some kernel functions, make other scale better, and make it feasible to bring some computation-heavy functionality into the kernel. We present our framework for using the GPU as a co-processor from an OS kernel, and demonstrate a prototype in Linux.

研究の動機と目的

• GPUをOSカーネル内でのコプロセッサとして使用し、パフォーマンスが求められるシステム関数を高速化する可能性を検討すること。
• GPUオフロードに伴うレイテンシオーバーヘッドを低減するため、カーネルとGPU間の低レイテンシ通信フレームワークを設計すること。
• GPUアクセラレーションが、暗号化やネットワーキングなどの既存のOSサブシステムに効果的に統合可能であることを実証すること。
• CPUでは処理が遅すぎるため、GPUの並列処理能力を活用して新たなシステム機能を実現すること。
• GPUを一般用途CPUではなく、特殊化されたアクセラレータとして扱う、将来の異種アーキテクチャOS設計の基盤を築くこと。

提案手法

• ユーザースペースヘルパーとメッセージパッシングインタフェースを介して、GPUへの直接カーネルコールを可能にするKGPUというカーネルフレームワークの設計。
• CPUとGPU間のデータ転送オーバーヘッドを最小限に抑えるために、CUDA管理済みピン止めメモリの使用。
• GPUサービスコールのための5段階パイプラインの実装：準備、GPUへのDMA転送、GPU実行、GPUからのDMA転送、結果の戻し。
• 共有レスポンスキューと完了メッセージを用いて、非同期GPU処理を可能にし、データ転送と計算を重ね合わせること。
• 概念実証として、GPUアクセラレートAES-ECB暗号化をLinux暗号サブシステムに統合。
• さまざまなデータサイズでのパフォーマンス評価のため、マイクロベンチマークを用い、GPUとCPU実装を比較。

実験結果

リサーチクエスチョン

• RQ1 GPUアクセラレーションは、OSカーネルに効果的に統合可能であり、システムの重要な関数のパフォーマンスを向上させることができるか？
• RQ2 GPUにカーネルタスクをオフロードする際、レイテンシを最小限に抑えるアーキテクチャパターンは何か？
• RQ3 暗号化およびネットワーキングワークロードにおいて、GPUオフロードはスループットとレイテンシにどのように影響を与えるか？
• RQ4 小規模データサイズと大規模データサイズの両方において、CPU実行とGPU実行のパフォーマンストレードオフは何か？
• RQ5 GPUアクセラレートサービスは、既存のカーネルサブシステム内において、安全かつ効率的に組み合わせ可能か？

主な発見

• KGPUフレームワークは、ユーザースペースヘルパーとメッセージパッシングを用いることで、LinuxカーネルからGPUオフロードを成功裏に実現し、パイプライン処理とピン止めメモリによりレイテンシを低減した。
• 8KB以上のデータブロックを暗号化する場合、GPUアクセラレートAES-ECB暗号化は最適化されたCPUバージョンよりも最大6倍の高速化を達成した。
• パフォーマンスのクロスオーバー点は8KBであり、暗号化ファイルシステムにおけるページ単位の暗号化がGPUアクセラレーションにより顕著に恩恵を受ける可能性がある。
• フレームワークは5段階のパイプラインで同時に複数の処理を実行でき、データ転送とGPU計算の重ね合わせを可能にした。
• GPUデータ転送に起因するレイテンシオーバーヘッドが、小規模タスクでは利点を制限するため、ワークロードサイズに応じた動的CPU/GPUディスpatchが有効であると考えられる。
• 将来のハードウェアトレンド、例えば共有メモリを備えたAPUの登場により、コピーのオーバーヘッドが大幅に低減され、GPUオフロードの恩恵を受ける最小タスクサイズも著しく低下する可能性がある。