[論文レビュー] Effects of Degradations on Deep Neural Network Architectures

Prasun Roy, Subhankar Ghosh+2 more|arXiv (Cornell University)|Jul 26, 2018

Advanced Neural Network Applications参考文献 18被引用数 51

ひとこと要約

この論文は、六つの深層アーキテクチャ（VGG-16, VGG-19, ResNet-50, Inception-v3, MobileNet, CapsuleNet）が六つの画像劣化モデルの下でどのように性能を発揮するかを分析し、NTT層とV-CapsNet融合アーキテクチャを含むロバスト性を向上させる方法を提案する。

ABSTRACT

Deep convolutional neural networks (CNN) have massively influenced recent advances in large-scale image classification. More recently, a dynamic routing algorithm with capsules (groups of neurons) has shown state-of-the-art recognition performance. However, the behavior of such networks in the presence of a degrading signal (noise) is mostly unexplored. An analytical study on different network architectures toward noise robustness is essential for selecting the appropriate model in a specific application scenario. This paper presents an extensive performance analysis of six deep architectures for image classification on six most common image degradation models. In this study, we have compared VGG-16, VGG-19, ResNet-50, Inception-v3, MobileNet and CapsuleNet architectures on Gaussian white, Gaussian color, salt-and-pepper, Gaussian blur, motion blur and JPEG compression noise models.

研究の動機と目的

• 6つの最先端アーキテクチャのロバスト性を、6つの一般的な画像劣化に対して評価する。
• 過度な計算コストをかけずにロバスト性を向上させる方法を導入する。
• ノイズおよび敵対的摂動下での性能に対するロバスト性向上ブロックの影響を評価する。
• 画像劣化に対するロバスト性のベンチマーク用データセットとベンチマークを提供する。

提案手法

• クリーンデータで6つのアーキテクチャを訓練し、徐々に劣化した検証データで評価する。
• 6つの劣化モデルを使用する：Gaussian white, Gaussian color, salt-and-pepper, Gaussian blur, motion blur, and JPEG compression.
• NTT (Nontrainable-Trainable) layer を、深さ方向の非訓練フィルターの後に深さ方向の訓練可能フィルターを配置してロバスト性を向上させる。
• V-CapsNetを開発し、VGG-19の畳み込み層をCapsuleNetに統合して性能を向上させる。
• FGSMを用いて敵対的摂動に対するロバスト性を分析し、NTT層がロバスト性と知覚品質にどう影響するかを検討する。
• ノイズあり/なしでSSIMを用いて特徴マップの変化を評価し、CapsuleNetとより深いCNNとの深さ依存ロバスト性を理解する。

実験結果

リサーチクエスチョン

• RQ1 六つの深層アーキテクチャは、合成数字データセットと自然画像データセットにおける一般的な画像劣化にどう対応するか？
• RQ2 NTT層やV-CapsNet融合といったアーキテクチャの修正は、ベースラインの精度を大幅に損なうことなく劣化に対するロバスト性を向上させることができるか？
• RQ3 ノイズに対する深さのロバスト性の関係はどうなるか、特にCapsuleNetとCNNsとの比較で？
• RQ4 これらのアーキテクチャは敵対的摂動に対してどうなるか、ロバスト性ブロックはどのような防御挙動を示すか？

主な発見

• CapsuleNetは、CNNと比較して特にノイズ密度が高い場合に、加法的Gaussianノイズに対して顕著なロバスト性を示す。
• VGGベースのネットワークは、ResNet、Inception、MobileNetなどのより深いCNNに比べて、Gaussianノイズ下で一般により穏やかに劣化する。
• GaussianブラーとモーションブラーはCNNの性能を低下させ、ブラー劣化ではVGG-16/VGG-19がより深いアーキテクチャよりもしばしば優れている。
• JPEG圧縮は品質q>20以上では影響が限られるが、q≤20ではResNetとMobileNetが急速に劣化する一方、VGG、Inception、CapsuleNetはよりロバストである。
• NTT層は、アーキテクチャを問わず劣化に対するロバスト性を著しく向上させるが、ベースライン精度にはトレードオフがある。
• V-CapsNet融合アーキテクチャはクリーンデータで最高の精度を達成するが、劣化に対するロバスト性はCapsuleNet単独よりも速く低下する。
• 深いネットワークは摂動に対してより敏感である傾向があり、CapsuleNetの浅い深さがノイズ耐性に寄与している。
• 敵対的ロバスト性の結果は、CapsuleNetとVGGが好ましくない一方、ResNet-50、Inception-v3、MobileNet、V-CapsNetは FGSM に対してより高い耐性を示し、NTTが敵対的ダイナミクスに影響を与える。