[論文レビュー] On-Off Center-Surround Receptive Fields for Accurate and Robust Image Classification

Zahra Babaiee, Ramin Hasani+3 more|arXiv (Cornell University)|Jun 13, 2021

Neural dynamics and brain function被引用数 7

ひとこと要約

本論文は、変動する照明条件下でも精度と耐障害性を向上させるために、生物学的インスピレーションを受けて設計されたOn-Off Center-Surround (OOCS) 受容 field を導入する。固定で解析的に計算された差分ガウスカーネル（DoG）を用いて、網膜のオンセンターおよびオフセンター経路を模倣することで、モデルのパラメータ数を増加させることなくエッジ検出性能が向上し、分布シフトやノイズの強いテストセットにおいて顕著な性能向上が達成された。

ABSTRACT

Robustness to variations in lighting conditions is a key objective for any deep vision system. To this end, our paper extends the receptive field of convolutional neural networks with two residual components, ubiquitous in the visual processing system of vertebrates: On-center and off-center pathways, with excitatory center and inhibitory surround; OOCS for short. The on-center pathway is excited by the presence of a light stimulus in its center but not in its surround, whereas the off-center one is excited by the absence of a light stimulus in its center but not in its surround. We design OOCS pathways via a difference of Gaussians, with their variance computed analytically from the size of the receptive fields. OOCS pathways complement each other in their response to light stimuli, ensuring this way a strong edge-detection capability, and as a result, an accurate and robust inference under challenging lighting conditions. We provide extensive empirical evidence showing that networks supplied with the OOCS edge representation gain accuracy and illumination-robustness compared to standard deep models.

研究の動機と目的

• 実世界のビジョンシステムにおける主要な課題である照明条件の変動に対する深層学習モデルの耐障害性を向上させること。
• 特にオンセンターおよびオフセンター受容 field を含む生物学的インスピレーションを受けて設計された誘導的バイアスを、標準的な畳み込みニューラルネットワークに組み込むこと。
• モデルの複雑さを増加させない効率的な手法を用いて、CNN のエッジ検出能力を向上させること。
• OOCS が分布シフトや悪条件の照明下で、標準的な正則化手法よりも優れた性能を示すことを実証すること。

提案手法

• 著者らは、受容 field のサイズから解析的に導出された分散を有する差分ガウス（DoG）カーネルを用いて、OOCS パathway を設計し、最適なエッジ検出を実現する。
• 固定で事前に計算された DoG カーネルを、特定の畳み込み層（例：ImageNet 実験では第3層）の後に残差成分として追加し、元のネットワークのパラメータ数を維持する。
• 元の畳み込み層を、オンセンター（興奮性中心、抑制性周囲）とオフセンター（抑制性中心、興奮性周囲）の応答をそれぞれ処理する2つの並列パスに分割する。
• 元のパスと OOCS パスの出力を連結することで、明るさの有無にかかわらず補完的なエッジ特徴をネットワークが捉えることができる。
• OOCS ブロックは、アーキテクチャの変更や再学習を必要とせず、ResNet-34 を含む任意の CNN アーキテクチャにプラグインモジュールとして適用可能である。
• 本手法は、ImageNet、MNIST、および合成された照明摂動や分布シフトを含む耐障害性ベンチマークで評価された。

実験結果

リサーチクエスチョン

• RQ1 オン・オフセンター・サブスリー受容 field は、変動する照明条件下での深層ニューラルネットワークの耐障害性を向上させることができるか？
• RQ2 分布シフトの処理において、OOCS の誘導的バイアスは、標準的な正則化手法（例：ドロップアウト、バッチ正則化、L2）と比較してどのように性能を示すか？
• RQ3 オンセンターとオフセンターのパスの補完的応答は、ビジョンモデルにおけるエッジ検出能力と一般化性能を向上させるか？
• RQ4 OOCS は、トレーニング可能なパラメータ数を増加させることなく、任意の CNN アーキテクチャに適用可能か？
• RQ5 OOCS は、色反転やノイズを含む分布外テストセットにおいて、どの程度性能を向上させるか？

主な発見

• ImageNet 検証セットにおいて、OOCS-CNN はトップ-1精度 99.1% を達成し、ベースラインの ResNet-34 や他の変種を上回った。
• 色反転を含む耐障害性ベンチマークでは、OOCS-CNN は 93.9% の精度を維持したが、ベースライン（75.4%）および SM-CNN（85.1%）を大きく上回った。
• 照明が反転した MNIST データセットにおいて、OOCS-CNN は 93.9% の精度を達成したのに対し、ベースラインは 75.4%、SM-CNN は 85.1% であった。
• 分布シフト下でのテスト誤差のばらつきについて、OOCS-CNN は標準的な正則化手法と比較して 10.5% 低い値を示した（図10 参照）。
• OOCS-CNN は、ガウスノイズや明るさ・コントラストの変化を含むノイズ多めや摂動のあるテストセットにおいても、ResNet-34 を含む複数のアーキテクチャで優れた性能を示した。
• オンセンターとオフセンターのパスの補完的活性化により、前景／背景の明るさに関係なくエッジを堅牢に検出できるため、照明反転に対して耐性があることが説明できる。