[論文レビュー] Deep Residual Learning for Image Recognition

Kaiming He, Xiangyu Zhang+2 more|arXiv (Cornell University)|Dec 10, 2015

Advanced Neural Network Applications参考文献 50被引用数 4,626

ひとこと要約

本論文は恒等ショートカット接続を用いた残差学習を導入し、従来よりはるかに深いネットワークの訓練を可能にして ImageNet で最大152層に達し最先端の結果を実現するとともに、極めて深いプレーンネットの劣化問題に対処する。

ABSTRACT

Deeper neural networks are more difficult to train. We present a residual learning framework to ease the training of networks that are substantially deeper than those used previously. We explicitly reformulate the layers as learning residual functions with reference to the layer inputs, instead of learning unreferenced functions. We provide comprehensive empirical evidence showing that these residual networks are easier to optimize, and can gain accuracy from considerably increased depth. On the ImageNet dataset we evaluate residual nets with a depth of up to 152 layers---8x deeper than VGG nets but still having lower complexity. An ensemble of these residual nets achieves 3.57% error on the ImageNet test set. This result won the 1st place on the ILSVRC 2015 classification task. We also present analysis on CIFAR-10 with 100 and 1000 layers. The depth of representations is of central importance for many visual recognition tasks. Solely due to our extremely deep representations, we obtain a 28% relative improvement on the COCO object detection dataset. Deep residual nets are foundations of our submissions to ILSVRC & COCO 2015 competitions, where we also won the 1st places on the tasks of ImageNet detection, ImageNet localization, COCO detection, and COCO segmentation.

研究の動機と目的

• 視覚認識におけるより深いネットワークの必要性を動機づけ、深さが増すときの劣化問題を特定する。
• 入力に対して基準関数を学習する残差関数を再定式化する残差学習フレームワークを提案する。
• 残差ネットが最適化しやすく、さまざまなデータセット（ImageNetとCIFAR-10）で深さを増すことによって恩恵を受けることを示す。
• 極めて深い残差ネットが優れた精度を達成し、検出・局在化タスク（COCO, Pascal VOC）にも一般化することを示す。
• 非常に深いネットの訓練を成功させる実用的なアーキテクチャと訓練戦略を提供する。

提案手法

• 目標となる写像 H(x) を学習するために残差 F(x) = H(x) - x を導入し、ブロックが y = F(x) + x を計算するようにする。
• パラメータ追加や計算コストを増やすことなく情報を伝播する単純な加算を行う恒等ショートカット接続を導入する。
• プレーンネットと残差ネットを含むネットワークの変種を探索し、18層から152層までの深さを研究し、ノンボトルネックとボトルネックの残差ブロックの両方を使用する。
• ショートカット接続は次元が変化する場合に投影を用いる場合でも、恒等または投影のいずれかを選択して3x3の畳み込みコアをプレーン網と残差ブロックの両方で使用する。
• より深いモデルのためにボトルネック設計（1x1, 3x3, 1x1）を採用し、計算コストを合理的に保ちながら深さを増やす。
• ImageNet、CIFAR-10、COCO/Pascal VOC のベンチマークでSGD、バッチ正規化、標準的な画像増強を用いて訓練し、トップ1およびトップ5の誤差を評価する（検出では mAP）。

実験結果

リサーチクエスチョン

• RQ1 極端に深いプレーンネットの劣化問題は最適化を妨げるのか、残差学習はそれを緩和できるのか。
• RQ2 大幅に深い残差ネット（最大152層）は、ImageNetおよびCIFAR-10において、より浅い同等物と比べて精度を改善できるのか。
• RQ3 訓練の容易さと性能の点で恒等ショートカットと投影ショートカットはどのように比較されるのか。
• RQ4 極端に深い残差ネットは、画像分類以外のタスク（COCO、Pascal VOC）への一般化、すなわち物体検出/セグメンテーションにも適用可能なのか。
• RQ5 深さ、計算量、精度のバランスをとる実用的なアーキテクチャ的変種（プレーン対残差、ボトルネック対非ボトルネック）は何か。

主な発見

• 深いプレーンネットは劣化を示す：深くなるほど訓練誤差が大きくなり検証性能が低下する。
• ショートカット接続を持つ残差ネットは劣化を回避し、深さが増すにつれて精度を高める（例：ResNet-34 対 ResNet-18）。
• ImageNet では、ResNet-50/101/152 のトップ1誤差はそれぞれ 22.85%、21.75%、21.43%（単一モデルの結果）、トップ5誤差はそれぞれ 6.71%、6.05%、5.71% である。
• 残差ネットのアンサンブルは ImageNet テストセットで 3.57% のトップ5誤差を達成し、ILSVRC 2015 の分類で1位を獲得した。
• CIFAR-10 では ResNet-110 が 6.43%（単一実行で報告された最高値）を達成するなど、より深い変種でさらなる改善が見られる。
• COCO では VGG-16 を ResNet-101 に置換することで検出の向上（mAP の改善）を示し、他の視覚タスクへの強い一般化を実証している。