[논문 리뷰] Dual Path Networks

Yunpeng Chen, Jianan Li외 4명|arXiv (Cornell University)|2017. 07. 06.

Infrastructure Maintenance and Monitoring인용 수 209

한 줄 요약

이 논문은 이중 잔차 경로를 통해 ResNet의 특징 재사용과 DenseNet의 특징 탐색을 결합한 새로운 CNN 아키텍처인 이중 경로 네트워크(Dual Path Networks, DPN)를 제안한다. 두 개의 별도 경로를 통해 특징을 공유하면서도 독립적인 학습을 가능하게 함으로써, ResNeXt-101(64x4d)보다 모델 크기가 26% 작고, FLOPs가 25% 적고, 메모리 사용량이 8% 줄어들며, 동시에 훈련 속도가 두 배 빠른 상태에서 ImageNet-1k, Places365, PASCAL VOC에서 최신 기준 성능을 달성한다.

ABSTRACT

In this work, we present a simple, highly efficient and modularized Dual Path Network (DPN) for image classification which presents a new topology of connection paths internally. By revealing the equivalence of the state-of-the-art Residual Network (ResNet) and Densely Convolutional Network (DenseNet) within the HORNN framework, we find that ResNet enables feature re-usage while DenseNet enables new features exploration which are both important for learning good representations. To enjoy the benefits from both path topologies, our proposed Dual Path Network shares common features while maintaining the flexibility to explore new features through dual path architectures. Extensive experiments on three benchmark datasets, ImagNet-1k, Places365 and PASCAL VOC, clearly demonstrate superior performance of the proposed DPN over state-of-the-arts. In particular, on the ImagNet-1k dataset, a shallow DPN surpasses the best ResNeXt-101(64x4d) with 26% smaller model size, 25% less computational cost and 8% lower memory consumption, and a deeper DPN (DPN-131) further pushes the state-of-the-art single model performance with about 2 times faster training speed. Experiments on the Places365 large-scale scene dataset, PASCAL VOC detection dataset, and PASCAL VOC segmentation dataset also demonstrate its consistently better performance than DenseNet, ResNet and the latest ResNeXt model over various applications.

연구 동기 및 목표

• 기존의 깊은 네트워크의 한계를 해결하기 위해 ResNet과 DenseNet의 장점을 하나의 아키텍처에 통합하고자 한다.
• 새로운 이중 경로 구조를 통해 특징 재사용과 새로운 특징 탐색을 동시에 효율적으로 가능하게 하고자 한다.
• 계산 비용과 메모리 비용을 줄이면서도 이미지 분류 벤치마크에서 정확도를 유지하거나 향상시키고자 한다.
• 이중 경로 네트워크를 통해 ImageNet-1k, Places365, PASCAL VOC에서 최신 기준 성능을 달성하고, 훈련 효율성을 향상시키고자 한다.

제안 방법

• 특징 재사용(ResNet 유사) 경로와 특징 탐색(DenseNet 유사) 경로를 별도로 유지하는 이중 경로 잔차 블록을 제안한다.
• 두 경로 간의 특징 공유를 가능하게 하면서 기울기 흐름을 유지하는 데 중점을 둔 새로운 식별 맵핑 메커니즘을 도입한다.
• 두 경로의 특징을 연결하여 공유된 뱃지너 모듈에서 처리하는 계층적 특징 융합 전략을 적용한다.
• 이중 경로 블록을 쉽게 쌓아 깊은 네트워크를 구성할 수 있도록 모듈러 아키텍처를 설계한다(예: DPN-131).
• HORNN 프레임워크를 사용하여 ResNet과 DenseNet 간의 등가성을 엄밀히 증명함으로써 이중 경로 설계의 타당성을 정당화한다.
• 중복된 계산과 메모리 액세스를 최소화하여 추론 효율성을 높이는 최적화 기법을 적용한다.

실험 결과

연구 질문

• RQ1 통합 아키텍처가 특징 재사용(ResNet)과 특징 탐색(DenseNet)의 장점을 효과적으로 융합하여 표현 학습 성능을 향상시킬 수 있는가?
• RQ2 단일 경로 아키텍처와 비교했을 때 이중 경로 설계는 정확도, 파라미터 효율성, 훈련 속도 측면에서 어떻게 성능을 내는가?
• RQ3 이중 경로 메커니즘이 대규모 벤치마크에서 성능을 손상시키지 않고 모델 크기와 FLOPs를 얼마나 줄일 수 있는가?
• RQ4 제안된 DPN은 이미지 분류, 장면 인식, 객체 검출, 세그멘테이션 등 다양한 비전 작업에 잘 일반화되는가?

주요 결과

• ImageNet-1k에서 얕은 DPN은 ResNeXt-101(64x4d)보다 더 높은 top-1 정확도를 달성하면서도 모델 크기가 26% 작고, FLOPs가 25% 적다.
• 더 깊은 DPN-131 모델은 ResNeXt-101보다 훈련 속도가 두 배 빠르며, ImageNet-1k에서 새로운 최고 성능을 기록한다.
• Places365 데이터셋에서 DPN은 계산 비용이 더 낮은 편이면서도 DenseNet, ResNet, ResNeXt보다 장면 인식 정확도에서 뛰어나다.
• PASCAL VOC 검출 및 세그멘테이션 작업에서 DPN은 ResNet, DenseNet, 최신 ResNeXt 모델보다 일관되게 높은 성능을 기록한다.
• ResNeXt-101(64x4d) 대비 정확도는 유지하면서도 메모리 소비를 8% 줄였다.
• 이중 경로 설계 덕분에 기울기 흐름이 향상되고 특징 맵의 중복성이 감소하여 효율적인 특징 학습이 가능하다.