[論文レビュー] Deep Learning For Computer Vision Tasks: A review

Rajat Kumar Sinha, Ruchi Pandey+1 more|arXiv (Cornell University)|Apr 11, 2018

Advanced Neural Network Applications参考文献 20被引用数 38

ひとこと要約

この論文は、画像分類、物体検出、画像セグメンテーション、ノイズ耐性学習の分野におけるコンvolutionニューラルネットワーク（CNNs）の応用を焦点に、コンピュータビジョンタスクにおけるディーブラーニングアプローチをレビューしている。AlexNet、VGG、ResNet、U-Netといった主要なアーキテクチャを調査し、深層ネットワークのトレーニングにおける性能向上と課題を強調するとともに、モデル効率性と耐性の分野における今後の研究方向性についての洞察を提供する。

ABSTRACT

Deep learning has recently become one of the most popular sub-fields of machine learning owing to its distributed data representation with multiple levels of abstraction. A diverse range of deep learning algorithms are being employed to solve conventional artificial intelligence problems. This paper gives an overview of some of the most widely used deep learning algorithms applied in the field of computer vision. It first inspects the various approaches of deep learning algorithms, followed by a description of their applications in image classification, object identification, image extraction and semantic segmentation in the presence of noise. The paper concludes with the discussion of the future scope and challenges for construction and training of deep neural networks.

研究の動機と目的

• コンピュータビジョンに応用されたディーブラーニングアルゴリズムの包括的概要を提供すること。
• 画像分類および物体検出における主要なディープニューラルネットワークの性能とアーキテクチャを分析すること。
• ノイズのある画像環境下でのディープラーニングモデルの耐性を検討すること。
• 特にU-Netおよびその変種を用いたディープラーニングを用いた意味的セグメンテーション技術を探索すること。
• 深層ニューラルネットワークのトレーニングおよび構築における未解決の課題と今後の研究方向性を特定すること。

提案手法

• 画像分類を目的とした広く使われているディープラーニングアーキテクチャ、例えばAlexNet、VGGNet、GoogLeNet、ResNet、DenseNetを調査すること。
• 階層的特徴学習における畳み込み層、プーリング、活性化関数の役割を分析すること。
• R-CNN、Fast R-CNN、Faster R-CNN、YOLOといった物体検出フレームワークの精度と推論速度を評価すること。
• 特にスキップ接続を用いて空間的詳細を保持するU-Netを含む意味的セグメンテーション手法をレビューすること。
• バッチ正規化、ドロップアウト、リーマン結合が、トレーニングの安定性と精度を向上させる影響を評価すること。
• データオーグメンテーションとトランスファー学習が、ノイズのある条件下でのモデル一般化性と耐性を向上させる主な戦略であると議論すること。

実験結果

リサーチクエスチョン

• RQ1 どのディーブラーニングアーキテクチャが、画像分類および物体検出において最先端の性能を達成したか？
• RQ2 リーマン結合とスキップ結合は、CNNにおけるトレーニングの深さと特徴表現をどのように向上させるか？
• RQ3 コンピュータビジョンタスクにおける非常に深層なニューラルネットワークをトレーニングする際の主な課題は何か？
• RQ4 U-Netのような現代的なセグメンテーションネットワークは、クラスの不均衡をどのように処理し、細粒度の空間的詳細を保持するか？
• RQ5 現在のディーブラーニングモデルが、ノイズが多いまたは低品質な入力画像を処理する際の制限は何か？

主な発見

• リーマンネットワーク（ResNets）は、スキップ結合を用いることで、100層を超える非常に深いネットワークのトレーニングを可能にし、ImageNetにおける精度を著しく向上させた。
• U-Netは、収縮パスと拡張パスを組み合わせ、スキップ結合を用いることで、生物学的画像セグメンテーションにおいて最先端の性能を達成した。
• VGG や ResNet などの事前学習済みモデルを用いたトランスファー学習は、小規模またはドメイン特化のデータセットにおいて顕著な性能向上をもたらした。
• バッチ正規化とドロップアウトは、深層アーキテクチャにおけるトレーニングの安定性を向上させ、過学習を低減することが示された。
• 進展は見られても、ディープネットワークは adversarial な例やノイズのある入力に対して依然として感受性が高く、耐性のあるトレーニング手法の開発が求められる。
• 本論文では、モデル効率性、解釈可能性、分布シフト下での一般化性が、今後の研究における主な課題として特定された。