[논문 리뷰] On-Off Center-Surround Receptive Fields for Accurate and Robust Image Classification

Zahra Babaiee, Ramin Hasani외 3명|arXiv (Cornell University)|2021. 06. 13.

Neural dynamics and brain function인용 수 7

한 줄 요약

이 논문은 다양한 조명 조건에서 정확도와 강인성을 향상시키기 위해 생물학적으로 영감을 받은 인덕티브 바이어스로 On-Off Center-Surround (OOCS) 수용체 영역을 도입한다. 고정된 분석적으로 계산된 가우시안 차분 커널을 통합함으로써 망막 경로의 온센터 및 오프센터 반응을 모방하며, 모델 파rameter 수를 늘리지 않고도 에지 검출 성능을 향상시켜 분포 이탈 및 노이즈가 있는 테스트 세트에서 성능을 크게 향상시킨다.

ABSTRACT

Robustness to variations in lighting conditions is a key objective for any deep vision system. To this end, our paper extends the receptive field of convolutional neural networks with two residual components, ubiquitous in the visual processing system of vertebrates: On-center and off-center pathways, with excitatory center and inhibitory surround; OOCS for short. The on-center pathway is excited by the presence of a light stimulus in its center but not in its surround, whereas the off-center one is excited by the absence of a light stimulus in its center but not in its surround. We design OOCS pathways via a difference of Gaussians, with their variance computed analytically from the size of the receptive fields. OOCS pathways complement each other in their response to light stimuli, ensuring this way a strong edge-detection capability, and as a result, an accurate and robust inference under challenging lighting conditions. We provide extensive empirical evidence showing that networks supplied with the OOCS edge representation gain accuracy and illumination-robustness compared to standard deep models.

연구 동기 및 목표

• 실세계 시각 시스템에서 주요 과제인 조명 조건의 변동에 대해 딥 러닝 모델의 강인성을 향상시키기 위해.
• 특히 온센터 및 오프센터 수용체 영역을 포함한 생물학적으로 영감을 받은 인덕티브 바이어스를 표준 컨볼루션 신경망에 통합하기 위해.
• 모델 복잡도를 증가시키지 않는 파rameter 효율적인 방법을 통해 CNN의 에지 검출 능력을 향상시키기 위해.
• OOCS가 분포 이탈 및 악조건의 조명 조건에서 표준 정규화 기법보다 뛰어난 성능을 보임을 입증하기 위해.

제안 방법

• 저자는 수용체 영역 크기에 분석적으로 유도된 분산을 갖는 차분-가우시안(DiG) 커널을 사용하여 OOCS 경로를 설계함으로써 최적의 에지 검출을 보장한다.
• 고정된 사전 계산된 DoG 커널을 선택된 컨볼루션 레이어(예: ImageNet 실험에서 세 번째 레이어) 이후 잔차 구성 요소로 추가하여 원래 네트워크의 파arameter 수를 유지한다.
• 기존 컨볼루션 레이어를 두 개의 병렬 경로로 분할한다: 하나는 온센터(흥분성 중심, 억제성 둘레) 반응을 위한 경로이고, 다른 하나는 오프센터(억제성 중심, 흥분성 둘레) 반응을 위한 경로이다.
• 기존 경로와 OOCS 경로의 출력을 연결하여, 빛의 존재와 부재에서 유사한 에지 특징을 포착할 수 있도록 한다.
• OOCS 블록은 아키텍처 수정 없이도 ResNet-34와 같은 어떤 CNN 아키텍처에도 플러그인 모듈로 적용 가능하다.
• 이 방법은 ImageNet, MNIST 및 정밀도 벤치마크에서 합성된 조명 편향과 분포 이탈을 포함하여 평가된다.

실험 결과

연구 질문

• RQ1 온-오프 중심-둘레 수용체 영역이 다양한 조명 조건에서 딥 러닝 모델의 강인성을 향상시킬 수 있는가?
• RQ2 OOCS 인덕티브 바이어스는 분포 이탈 상황에서 표준 정규화 기법(예: 드롭아웃, 배치 정규화, L2)과 비교해 어떻게 성능을 내는가?
• RQ3 온센터 및 오프센터 경로의 보완적 반응이 시각 모델의 에지 검출 능력과 일반화 능력을 향상시키는가?
• RQ4 OOCS는 파arameter 수를 늘리지 않고도 어떤 CNN 아키텍처에나 적용 가능한가?
• RQ5 OOCS는 색상 반전 또는 노이즈가 있는 분포 이탈 테스트 세트에서 성능을 얼마나 향상시키는가?

주요 결과

• ImageNet 검증 세트에서 OOCS-CNN는 상위 1위 정확도 99.1%를 기록하여 기준 ResNet-34 및 기타 변종보다 뛰어난 성능을 보였다.
• 색상 반전이 가미된 정밀도 벤치마크에서 OOCS-CNN는 93.9%의 정확도를 유지하였으며, 기준(75.4%) 및 SM-CNN(85.1%)보다 뚜렷이 뛰어났다.
• 색조 반전 조건이 적용된 MNIST 데이터셋에서 OOCS-CNN는 93.9%의 정확도를 기록하였고, 기준(75.4%) 및 SM-CNN(85.1%)보다 높았다.
• 분포 이탈 상황에서 OOCS-CNN는 표준 정규화 기법 대비 테스트 오차의 변동률이 10.5% 낮게 나타났으며, 그림 10에 도시되어 있다.
• OOCS-CNN는 Gaussian 노이즈 및 밝기/대비 변화와 같은 노이즈가 있는 및 왜곡된 테스트 세트에서 ResNet-34와 같은 여러 아키텍처에서 뛰어난 성능을 보였다.
• 온센터 및 오프센터 경로의 보완적 활성화 덕분에, 전경/배경 강도에 관계없이 에지가 강인하게 검출될 수 있으며, 이는 조명 반전에 대한 강인성의 원인을 설명한다.