[论文解读] On-Off Center-Surround Receptive Fields for Accurate and Robust Image Classification

Zahra Babaiee, Ramin Hasani+3 more|arXiv (Cornell University)|Jun 13, 2021

Neural dynamics and brain function被引用 7

一句话总结

该论文提出了一种生物启发的归纳偏置——开-关中心-周边（On-Off Center-Surround, OOCS）感受野，以提升深度神经网络在不同光照条件下的准确性和鲁棒性。通过集成固定、解析计算的高斯差分（difference-of-Gaussians）核，模拟视网膜中的兴奋性中心与抑制性周边通路，OOCS在不增加模型参数的情况下显著提升了在分布偏移和噪声测试集上的性能，增强了边缘检测能力。

ABSTRACT

Robustness to variations in lighting conditions is a key objective for any deep vision system. To this end, our paper extends the receptive field of convolutional neural networks with two residual components, ubiquitous in the visual processing system of vertebrates: On-center and off-center pathways, with excitatory center and inhibitory surround; OOCS for short. The on-center pathway is excited by the presence of a light stimulus in its center but not in its surround, whereas the off-center one is excited by the absence of a light stimulus in its center but not in its surround. We design OOCS pathways via a difference of Gaussians, with their variance computed analytically from the size of the receptive fields. OOCS pathways complement each other in their response to light stimuli, ensuring this way a strong edge-detection capability, and as a result, an accurate and robust inference under challenging lighting conditions. We provide extensive empirical evidence showing that networks supplied with the OOCS edge representation gain accuracy and illumination-robustness compared to standard deep models.

研究动机与目标

• 提升深度学习模型在真实视觉系统中常见光照条件变化下的鲁棒性，这是该领域的一大挑战。
• 将生物启发的归纳偏置——特别是兴奋性中心与抑制性中心感受野——整合到标准卷积神经网络中。
• 采用参数高效的方法增强CNN的边缘检测能力，且不增加模型复杂度。
• 证明OOCS在分布偏移和恶劣光照条件下优于标准正则化技术。

提出的方法

• 作者使用高斯差分（DoG）核设计OOCS路径，其方差通过感受野大小解析推导，以确保最优边缘检测。
• 将固定、预计算的DoG核作为残差组件添加到选定的卷积层之后（例如ImageNet实验中的第三层），保持原始网络的参数量不变。
• 该方法将原始卷积层拆分为两条并行路径：一条用于兴奋性中心（兴奋性中心，抑制性周边），另一条用于抑制性中心（抑制性中心，兴奋性周边）响应。
• 原始路径与OOCS路径的输出进行拼接，使网络能够捕获来自光存在与光缺失的互补边缘特征。
• OOCS模块可作为即插即用的组件应用于任何CNN架构（包括ResNet-34），无需修改网络结构或重新训练。
• 该方法在ImageNet、MNIST以及带有合成光照扰动和分布偏移的鲁棒性基准上进行了评估。

实验结果

研究问题

• RQ1 开-关中心-周边感受野能否提升深度神经网络在不同光照条件下的鲁棒性？
• RQ2 OOCS归纳偏置与标准正则化技术（如dropout、批量归一化、L2）相比，在处理分布偏移时表现如何？
• RQ3 兴奋性中心与抑制性中心路径的互补响应是否能增强视觉模型的边缘检测能力和泛化性能？
• RQ4 OOCS能否在不增加可训练参数数量的前提下应用于任意CNN架构？
• RQ5 OOCS在具有颜色反转或噪声的分布外测试集上性能提升的幅度有多大？

主要发现

• 在ImageNet验证集上，OOCS-CNN达到99.1%的top-1准确率，优于基线ResNet-34及其他变体。
• 在颜色反转的鲁棒性基准测试中，OOCS-CNN保持93.9%的准确率，显著优于基线（75.4%）和SM-CNN（85.1%）。
• 在MNIST数据集的光照反转条件下，OOCS-CNN达到93.9%的准确率，而基线为75.4%，SM-CNN为85.1%。
• 如图10所示，在分布偏移下，OOCS-CNN的测试误差偏差比标准正则化方法低10.5%。
• OOCS-CNN在包含高斯噪声和亮度/对比度变化的噪声和扰动测试集上表现出色，适用于ResNet-34等多种架构。
• 兴奋性中心与抑制性中心路径的互补激活使网络能够鲁棒地检测边缘，无论前景/背景亮度如何，解释了其对光照反转的强鲁棒性。