[論文レビュー] Training convolutional neural networks with megapixel images

Hans Pinckaers, Geert Litjens|arXiv (Cornell University)|Apr 16, 2018

AI in cancer detection参考文献 2被引用数 8

ひとこと要約

本稿では、画像タイルの部分的順方向パスを用いて中間活性化マップを再構築することで、GPUメモリを大幅に削減する手法として、ストリーミング確率的勾配降下法（SSGD）を提案する。この手法により、64メガピクセルの画像を用いた学習が、従来のSGDと比較して97％のGPUメモリ削減で可能となり、数値的に同等の結果が得られつつ、モデルの精度を維持できる。

ABSTRACT

To train deep convolutional neural networks, the input data and the intermediate activations need to be kept in memory to calculate the gradient descent step. Given the limited memory available in the current generation accelerator cards, this limits the maximum dimensions of the input data. We demonstrate a method to train convolutional neural networks holding only parts of the image in memory while giving equivalent results. We quantitatively compare this new way of training convolutional neural networks with conventional training. In addition, as a proof of concept, we train a convolutional neural network with 64 megapixel images, which requires 97% less memory than the conventional approach.

研究の動機と目的

• ギガピクセル解像度の組織病理スライドや衛星画像などの大規模・高解像度画像に対するCNN学習におけるメモリボトルネックを解消すること。
• 過剰なGPUメモリを要せず、フル解像度のメガピクセル画像での学習を可能にすること。
• 標準SGDと数値的に同等の結果を得られる、メモリ効率の高い学習手法を開発すること。
• 標準SGDでは235 GBのGPUメモリを要するが、SSGDでは7 GBのGPUメモリで64メガピクセル画像の学習が可能であることを実証すること。
• メモリフットプリントを削減することで、標準的なハードウェア上での大規模ネットワークや高解像度データの学習を可能にすること。

提案手法

• 本手法は、画像タイルにおける部分的順方向パスを実行することで中間活性化マップを再構築し、残りのネットワークに再構成したマップを入力する。
• タイル間のオーバーラップは、順方向（P_forw）および逆方向（P_back）パスのための式を用いて計算され、再構築の正確性を保証する。
• 式1は順方向パスにおけるタイルオーバーラップを計算する：P_forw = (k - s) + b((z - k) mod s)、ここでkはカーネルサイズ、sはストライド、zは画像サイズ、bはブールフラグである。
• 式2は逆方向パスにおけるより大きなオーバーラップを計算する：P_back = 2(k - s) + b((z - k) mod s)、これは重複領域間の勾配依存関係を考慮している。
• バックプロパゲーションはタイルごとに実行され、すべての活性化を保存せずに部分的順方向パスによる勾配の再構築が行われる。
• ミニバッチ勾配は画像全体で合算・平均化され、プーリングや畳み込み演算に起因するエッジ効果は、タイル境界にエッジピクセルを保持することで補正される。

実験結果

リサーチクエスチョン

• RQ1 GPUメモリ制限を超えない範囲で、フルメガピクセル画像入力を可能にする学習手法を開発できるか？
• RQ2 標準SGDと、SSGDのようなメモリ削減手法との間で、数値的に同等の結果を得られるか？
• RQ3 バックプロパゲーション中にタイル化された順方向パスによる活性化マップの再構築に起因する、メモリと計算のトレードオフは何か？
• RQ4 SSGDを用いて64メガピクセル画像のCNN学習が成功するか？その際のメモリフットプリントはどの程度か？
• RQ5 SSGDは、バッチ正則化やグローバル演算の使用といった、アーキテクチャ選択にどの程度制限を及えるか？

主な発見

• 標準SGDとSSGDとの間の損失差は1×10⁻⁴にとどまり、数値的同等性が確認された。
• テスト精度は標準SGDおよびSSGDの両者で77％であり、同等の性能を示した。
• 64メガピクセル画像で学習したネットワークは78％のテスト精度を達成し、大規模画像の学習の可能性を示した。
• SSGDは、GPUメモリ使用量を標準SGD（ミニバッチサイズ8）の235 GBから7 GBにまで97％削減した。
• バックプロパゲーション中に再計算が必要なため、顕著な計算オーバーヘッドが生じた。
• 完全な活性化マップに依存するアーキテクチャ（例：バッチ正則化）は、SSGDと互換性がない。これは、完全な特徴マップが必要なためである。