[논문 리뷰] Learning Channel Inter-dependencies at Multiple Scales on Dense Networks for Face Recognition

Qiangchang Wang, Guodong Guo외 1명|arXiv (Cornell University)|2017. 11. 28.

Face recognition and analysis참고 문헌 48인용 수 3

한 줄 요약

이 논문은 다중 척도 특징 학습, 밀집 연결, 그리고 압축 및 자극(Sequeeze-and-Excitation, SE) 모듈을 통합하여 비제약 조건 하의 얼굴 인식을 위한 특징 표현을 향상시키는 딥러닝 아키텍처인 SE-Inception-DenseNet(SEID)을 제안한다. 다양한 척도와 밀집 잔여 경로를 통해 정보성 특징을 가중함으로써, SEID는 CASIA-WebFace와 같은 중간 크기의 훈련 데이터를 사용함에도 불구하고 IJB-A 및 FaceScrub 데이터셋에서 최신 기술 수준의 성능을 달성한다. 특히, FAR=0.01일 때 63.3%의 인증 정확도와 FAR=0.0001일 때 29.4%의 정확도를 기록하여 많은 기존 모델을 능가한다.

ABSTRACT

We propose a new deep network structure for unconstrained face recognition. The proposed network integrates several key components together in order to characterize complex data distributions, such as in unconstrained face images. Inspired by recent progress in deep networks, we consider some important concepts, including multi-scale feature learning, dense connections of network layers, and weighting different network flows, for building our deep network structure. The developed network is evaluated in unconstrained face matching, showing the capability of learning complex data distributions caused by face images with various qualities.

연구 동기 및 목표

• 이미지 품질, 자세, 조명 등이 크게 변하는 비제약 조건 하에서 얼굴을 인식하는 데 도전하는 것.
• 다중 척도 특징 학습과 밀집 연결을 조합하여 더 나은 기울기 흐름과 파rameter 효율성을 확보함으로써 딥 네트워크 내 특징 표현을 향상시키는 것.
• 전역적 맥락을 기반으로 채널별 특징 반응을 재조정하기 위해 Squeeze-and-Excitation 모듈을 사용하여 정보성 채널에 집중함으로써 판별 능력을 향상시키는 것.
• 거대한 훈련 데이터셋이 필요 없이도 복잡한 데이터 분포에 잘 일반화되는 모델을 개발하는 것.

제안 방법

• 제안된 SE-Inception-DenseNet(SEID)는 다층적이고 계층적인 특징 학습을 가능하게 하기 위해 Inception 모듈을 DenseNet 아키텍처에 통합하여 다중 척도 컨볼루션 특징 추출을 수행한다.
• 모든 이전 레이어에 걸쳐 밀집 연결을 적용함으로써 특징 재사용, 기울기 흐름 향상 및 정규화 효과를 극대화한다.
• 모든 전이 및 밀집 블록 레이어 이전에 Squeeze-and-Excitation(SE) 모듈을 삽입하여 전역 맥락 기반으로 채널별 특징 반응을 재조정한다.
• SE 모듈은 전역 평균 풀링을 통해 채널별 주의 가중치를 계산하고, ReLU와 시그모이드 활성화 함수를 적용한 완전 연결 계층을 거쳐 학습 가능한 스케일링 인자를 생성한다.
• 모델은 CASIA-WebFace 데이터셋에서 엔드 투 엔드로 훈련되고, LFW, IJB-A, FaceScrub에서 인증 성능을 평가하기 위해 검증된다.
• 네트워크는 Inception 모듈 내 차원 감소를 위해 1×1 컨볼루션을 사용하고, 깊은 아키텍처에서 훈련 안정성을 높이기 위해 신장 경로(Identity shortcut)를 적용한다.

실험 결과

연구 질문

• RQ1 다중 척도 특징 학습과 밀집 연결을 조합하면 비제약 조건 하의 얼굴 인식 성능을 향상시킬 수 있는가?
• RQ2 압축 및 자극(SE) 모듈의 통합은 딥 얼굴 인식 네트워크의 특징 표현에 어떤 영향을 미치는가?
• RQ3 제안된 SE-Inception-DenseNet 모델은 최신 기술 수준의 방법들과 비교해 복합 품질의 얼굴 매칭에서 뛰어난 성능을 달성하는가?
• RQ4 LFW와 같은 표준 벤치마크에서 고정밀도를 유지하면서도 IJB-A 및 FaceScrub의 다양한 이미지 품질에 잘 일반화되는가?

주요 결과

• IJB-A 데이터셋에서 SEID는 FAR=0.01일 때 63.3%의 인증 정확도를 기록하여, 같은 조건에서 FaceNet(25.7%), VGGFace(60.5%), Light CNN(56.6%)를 모두 능가한다.
• IJB-A에서 FAR=0.0001일 때 SEID는 26.6%의 인증 정확도를 기록하여 SphereFace(24.5%)와 Center Loss(16.4%)를 초월하며, 낮은 거짓 수락률에서도 뛰어난 강건성을 입증한다.
• FaceScrub 데이터셋에서 SEID는 FAR=0.01일 때 61.7%의 인증 정확도를 기록하여, VGGFace(59.5%), Light CNN(50.3%), Center Loss(49.3%)를 모두 능가한다.
• LFW 데이터셋에서 SE 모듈을 Inception 블록 이전에 적용한 SEID는 98.88%의 인증 정확도를 기록하여, 동일한 훈련 데이터 조건에서 DeepID2+(25개 네트워크를 사용해 98.95%)와 Light CNN(99.33%)를 모두 능가한다.
• SE 모듈의 압축 비율 r=4일 때 최고의 성능(98.88% on LFW)을 기록하여 표현 능력과 계산 비용 사이의 최적 균형을 이룬다.
• SEID는 기준 Inception 및 DenseNet 모델에 비해 일관된 성능 향상을 보이며, LFW에서 Inception 기반 모델보다 3.1% 향상(97.6% → 98.88%)되고, DenseNet 기반 모델보다 3.2% 향상(95.7% → 98.88%)된다.