[論文レビュー] Translation Insensitive CNNs

Ganesh Sundaramoorthi, Timothy E. Wang|arXiv (Cornell University)|Nov 25, 2019

Advanced Neural Network Applications参考文献 23被引用数 8

ひとこと要約

この論文は、畳み込みフィルタをガウス＝エルミート基底関数で表現することで、ダウンサンプリングを用いず翻訳不変性を達成するCNNアーキテクチャ「GaussNets」を提案する。ピクセル値の代わりに基底係数を学習することで、小さなカーネルパラメータと大きな受容 field を維持しつつ、弱い形の不変性である「翻訳感度不変性」を伴うダウンサンプリングを可能にし、微小なシフトに対しても分類性能が安定する。計算コストはやや増加するが、妥当な範囲にとどまる。

ABSTRACT

We address the problem that state-of-the-art Convolution Neural Networks (CNN) classifiers are not invariant to small shifts. The problem can be solved by the removal of sub-sampling operations such as stride and max pooling, but at a cost of severely degraded training and test efficiency. We present a novel usage of Gaussian-Hermite basis to efficiently approximate arbitrary filters within the CNN framework to obtain translation invariance. This is shown to be invariant to small shifts, and preserves the efficiency of training. Further, to improve efficiency in memory usage as well as computational speed, we show that it is still possible to sub-sample with this approach and retain a weaker form of invariance that we call \emph{translation insensitivity}, which leads to stability with respect to shifts. We prove these claims analytically and empirically. Our analytic methods further provide a framework for understanding any architecture in terms of translation insensitivity, and provide guiding principles for design.

研究の動機と目的

• 現代のCNNにおける翻訳不変性の欠如、特にマックスプーリングやストライド付き畳み込みといったダウンサンプリング操作に起因する問題を解決すること。
• ダウンサンプリングを伴わず、大きな受容 field と訓練効率を維持しながら、微小な画像の平行移動に対して不変性を達成すること。
• 微小なシフトに対するロバストネスを損なわず、ダウンサンプリングを可能にする手法を開発し、「翻訳感度不変性」という概念を導入すること。
• 任意のCNNアーキテクチャにおける翻訳感度の理解と評価のための解析的フレームワークを提供すること。

提案手法

• 畳み込みフィルタを直交ガウス＝エルミート基底関数の線形結合として表現し、ピクセル値の代わりに訓練中に学習される係数を用いる。
• ガウス＝エルミート基底の滑らかさを活かし、ダウンサンプリングがなければ正確な翻訳不変性を達成できることを示す。これは、シフトに伴うエネルギー保存に起因する。
• ガウス＝エルミートフィルタリング後にダウンサンプリングを適用することで、弱い形の不変性「翻訳感度不変性」を維持する、ダウンサンプリング付きGaussNetsを導入する。
• ガウス＝エルミート表現が翻訳不変性をもたらすことを解析的に証明し、ダウンサンプリングが翻訳感度不変性を保持するための条件を導出する。
• 訓練および評価段階で、モデルの微小な画像シフトに対するロバストネスを測定する感度指標Δ₁およびΔ₂を採用する。
• ResNetアーキテクチャの標準的な畳み込み層をGaussNet層に置き換え、1×1畳み込みはもともとシフト共変性を有するため、これを保持する。

実験結果

リサーチクエスチョン

• RQ1 ダウンサンプリングを用いず、訓練効率とパラメータ効率を維持しながら、完全な翻訳不変性を達成できるCNNアーキテクチャは存在するか？
• RQ2 GaussNetアーキテクチャにおけるダウンサンプリングは、微小な平行移動に対して意味のある形の不変性を保持するか？ もしそうなら、その性質は何か？
• RQ3 ガウス＝エルミート基底の幅（σ）の選択が、微小な画像シフトに対するモデルの感度にどのように影響するか？
• RQ4 提案されたGaussNetアーキテクチャは、ResNetのような標準CNNと同等またはそれ以上のテスト精度を達成できるか？ また、微小な平行移動に対してより頑健であるか？
• RQ5 ガウス＝エルミート分解に基づく解析的フレームワークは、CNNにおける翻訳感度の系統的分析をどの程度可能にするか？

主な発見

• GaussNetsは、ガウス＝エルミート基底関数によるフィルタ表現により、ダウンサンプリングを不要としつつも、各層で一定のカーネルパラメータ数を維持することで完全な翻訳不変性を達成する。
• ダウンサンプリング付きGaussNetsは「翻訳感度不変性」という弱いが実用的な形の不変性を示し、標準CNNと比較して微小な画像シフトに対する分類感度が顕著に低下する。
• CIFAR-10では、GaussNet-50はσ = 0.763でΔ₁ = 0.035、Δ₂ = 0.042を達成し、ResNet-50（Δ₁ = 0.087、Δ₂ = 0.103）を上回るロバストネスを示す。
• 推論時間はResNet-50の7.34倍（GaussNet-50：25.47秒、ResNet-50：3.47秒）と遅いが、CIFAR-10ではテスト誤差が約20％で、ResNet-18およびResNet-50と同等の性能を維持している。
• 感度は最適なσ ≈ 0.763で最小化され、σが小さすぎたり大きすぎたりすると感度が上昇するため、σはロバストネスにとって重要なハイパーパrameterである。
• GaussNet-50の推論時間（CIFAR-10で25.47秒）はResNet-50の7.34倍遅いが、多くの応用分野においては実用的であり、GaussNet層の計算最適化によりさらに短縮可能である。