[論文レビュー] Virtualizing Deep Neural Networks for Memory-Efficient Neural Network Design

Minsoo Rhu, Natalia Gimelshein+3 more|arXiv (Cornell University)|Feb 25, 2016

Advanced Neural Network Applications被引用数 18

ひとこと要約

本論文では、GPUとCPUのメモリ間で活性化を透明にオフロードすることで、より大きなディープニューラルネットワーク（DNN）の学習を可能にするランタイムメモリマネージャーである仮想化DNN（vDNN）を提案する。これにより、メモリ使用量を最大83%まで削減でき、12 GBのGPU1台でバッチサイズ256のVGG-16を学習可能となり、メモリ容量に見合ったシステムと比較して22%のパフォーマンス低下にとどまる。

ABSTRACT

The most widely used machine learning frameworks require users to carefully tune their memory usage so that the deep neural network (DNN) fits into the DRAM capacity of a GPU. This restriction hampers a researcher's flexibility to study different machine learning algorithms, forcing them to either use a less desirable network architecture or parallelize the processing across multiple GPUs. We propose a runtime memory manager that virtualizes the memory usage of DNNs such that both GPU and CPU memory can simultaneously be utilized for training larger DNNs. Our virtualized DNN (vDNN) reduces the average memory usage of AlexNet by 61% and OverFeat by 83%, a significant reduction in memory requirements of DNNs. Similar experiments on VGG-16, one of the deepest and memory hungry DNNs to date, demonstrate the memory-efficiency of our proposal. vDNN enables VGG-16 with batch size 256 (requiring 28 GB of memory) to be trained on a single NVIDIA K40 GPU card containing 12 GB of memory, with 22% performance loss compared to a hypothetical GPU with enough memory to hold the entire DNN.

研究の動機と目的

• トレーニング中のディープニューラルネットワーク（DNN）のサイズやバッチサイズを制限するGPUのメモリ容量制限を克服すること。
• マルチGPU構成を必要とせず、限られたメモリ（例：12 GB）を備えた1台のGPUで、より大きな・より深いDNN（例：VGG-16）を学習可能にする。
• 手動でのメモリチューニングやアーキテクチャ的妥協を減らすために、GPUとCPUのメモリ空間を自動で管理するメモリ管理を実現すること。
• 中間的な活性化をCPUメモリにオフロードしても、パフォーマンス劣化を最小限に抑えることで、高いトレーニング効率を維持すること。

提案手法

• vDNNシステムは、トレーニング中にアクセス頻度が低い活性化をGPUメモリからCPUメモリにオフロードすることで、動的にメモリを管理する。
• ランタイムメモリマネージャーは、メモリアクセスパターンを監視し、GPUとCPUメモリを統一されたアドレス空間として扱う仮想メモリ抽象化を適用する。
• システムは、オペレーティングシステムの仮想メモリに類似したページベースのメモリ管理戦略を採用し、DNNの活性化テンソルをGPUとCPUメモリの間でスワップする。
• モデルの再書き直しが不要なため、既存のディープラーニングフレームワークと統合可能で、透明なメモリ仮想化を実現する。
• すべての活性化が同時に必要とされるわけではないという事実を活用し、アクセス頻度に基づいてテンソルを選択的にエビクト（排出）および再取得する。

実験結果

リサーチクエスチョン

• RQ1 仮想メモリ抽象化をディープニューラルネットワークのトレーニングに効果的に適用することで、GPUメモリの圧力を軽減できるか？
• RQ2 CPUメモリに活性化をオフロードすることで、DNNのメモリ使用量をどれほど削減できるか？その際、許容できないパフォーマンスコストが発生するか？
• RQ3 VGG-16のような大規模でメモリ集約的なモデルを、限られたメモリを備えた1台のGPUでこのアプローチで学習可能か？
• RQ4 同等の条件下で、仮想化DNNのパフォーマンスは、完全にGPUに残留させるバージョンと比べてどの程度か？

主な発見

• vDNNは、CPUメモリへの知的な活性化オフロードにより、AlexNetの平均メモリ使用量を61%削減した。
• OverFeatでは、メモリ削減率が83%に達し、GPUメモリフットプリントが顕著に低減した。
• vDNNは、28 GBのGPUメモリを必要とするバッチサイズ256のVGG-16を、12 GBのGPUを搭載した1台のNVIDIA K40 GPUで学習可能にした。この際、メモリ容量に見合ったシステムと比較して78%のパフォーマンスを達成した。
• メモリ仮想化によるパフォーマンス低下は、十分なメモリを備えた理想的なGPUと比較して22%に限定され、実用的な妥当性を示した。
• この手法により、アーキテクチャ的妥協やマルチGPU構成を必要とせず、研究者がより大きなモデルやバッチサイズを探索可能になった。