[論文レビュー] Recognition of convolutional neural network based on CUDA Technology

Yibin Huang, Kang Li+4 more|arXiv (Cornell University)|May 30, 2015

Advanced Algorithms and Applications参考文献 1被引用数 6

ひとこと要約

この論文では、NVIDIA GTX200 GPU上でCUDA技術を用いて、畳み込みニューラルネットワーク（CNN）の並列認識アルゴリズムを提案し、シリアルCPU実装と比較して60倍の高速化を達成した。GPUベースのストリーム処理が、CUDAアーキテクチャ上の最適化されたデータ構造とタスクマッピングにより、CNN推論においてCPUよりもはるかに効率的であることが示された。

ABSTRACT

For the problem whether Graphic Processing Unit(GPU),the stream processor with high performance of floating-point computing is applicable to neural networks, this paper proposes the parallel recognition algorithm of Convolutional Neural Networks(CNNs).It adopts Compute Unified Device Architecture(CUDA)technology, definite the parallel data structures, and describes the mapping mechanism for computing tasks on CUDA. It compares the parallel recognition algorithm achieved on GPU of GTX200 hardware architecture with the serial algorithm on CPU. It improves speed by nearly 60 times. Result shows that GPU based the stream processor architecture ate more applicable to some related applications about neural networks than CPU.

研究の動機と目的

• GPUストリームプロセッサがニューラルネットワーク計算に適用可能かどうかを調査すること。
• 高パフォーマンスな浮動小数点演算を実現するため、CUDAを用いた並列CNN認識アルゴリズムを設計すること。
• 速度と効率の観点から、GPUベースのCNN推論と従来のCPU実装を比較すること。
• CNNワークロードに適したCUDAマッピングメカニズムとデータ構造の有効性を評価すること。

提案手法

• 著者らは、GTX200 GPUハードウェア上で、Compute Unified Device Architecture（CUDA）を用いて並列CNN認識アルゴリズムを実装した。
• CNNレイヤーにおけるメモリアクセスとデータフローの最適化を目的に、特別な並列データ構造を定義した。
• CNN計算タスクをCUDAカーネルにマッピングする方法を明示的に記述し、GPU実行の効率化を実現した。
• 同じネットワークアーキテクチャと入力データを用いて、シリアルCPU実装と比較してベンチマークを実施した。
• 実行時間とCPUベースラインに対するスピードアップ率という観点から、パフォーマンスを測定した。
• 研究は、畳み込み層と全結合層に焦点を当て、ディープラーニングで一般的な浮動小数点演算に重点を置いた。

実験結果

リサーチクエスチョン

• RQ1 GPUストリームプロセッサは、従来のCPUと比較して、CNN推論を顕著に高速化できるか？
• RQ2 CUDAは、CNN計算タスクを並列GPU実行ユニットに効果的にマッピングできるか？
• RQ3 シリアルCNNアルゴリズムをGPU実行用に再アーキテクチャングすることで、どの程度のパフォーマンス向上が達成できるか？
• RQ4 カスタム並列データ構造は、CNNにおけるメモリアクセスと計算スループットにどのような影響を与えるか？

主な発見

• GPUベースのCNN実装は、シリアルCPUバージョンと比較してほぼ60倍のスピードアップを達成した。
• 結果から、GPUストリーム処理が特定のニューラルネットワークリソースにCPUよりも適していることが確認された。
• CUDA対応の並列データ構造とタスクマッピングの活用により、計算効率が顕著に向上した。
• 性能向上は、GTX200 GPUの高精度浮動小数点機能と大規模並列処理能力に起因する。
• 本研究は、GPUアクセラレーションがCNN推論タスクにおいて実用的かつ非常に効果的であることを示した。