[논문 리뷰] Dense Residual Network: Enhancing Global Dense Feature Flow for Character Recognition

Zhao Zhang, Zemin Tang외 5명|arXiv (Cornell University)|2020. 01. 23.

Handwritten Text Recognition Techniques참고 문헌 51인용 수 4

한 줄 요약

이 논문은 전역 밀집 특징 흐름을 향상시키기 위해 효율적인 국소 특징 융합을 위한 빠른 잔차 밀집 블록(f-RDB)과 적응형이고 종합적인 전역 잔차 특징 학습을 위한 전역 밀집 블록(GDB)을 도입한 새로운 CNN 아키텍처인 빠른 밀집 잔차 네트워크(FDRN)를 제안한다. FDRN은 모든 계층에서 계층적 특징을 효과적으로 통합함으로써 계산 비용을 감소시키면서도 여러 텍스트 인식 벤치마크에서 최신 기술 성능(SOTA)을 달성한다.

ABSTRACT

Deep Convolutional Neural Networks (CNNs), such as Dense Convolutional Networks (DenseNet), have achieved great success for image representation by discovering deep hierarchical information. However, most existing networks simply stacks the convolutional layers and hence failing to fully discover local and global feature information among layers. In this paper, we mainly explore how to enhance the local and global dense feature flow by exploiting hierarchical features fully from all the convolution layers. Technically, we propose an efficient and effective CNN framework, i.e., Fast Dense Residual Network (FDRN), for text recognition. To construct FDRN, we propose a new fast residual dense block (f-RDB) to retain the ability of local feature fusion and local residual learning of original RDB, which can reduce the computing efforts at the same time. After fully learning local residual dense features, we utilize the sum operation and several f-RDBs to define a new block termed global dense block (GDB) by imitating the construction of dense blocks to learn global dense residual features adaptively in a holistic way. Finally, we use two convolution layers to construct a down-sampling block to reduce the global feature size and extract deeper features. Extensive simulations show that FDRN obtains the enhanced recognition results, compared with other related models.

연구 동기 및 목표

• 기존 CNN이 모든 계층에서 계층적 국소 및 전역 특징을 완전히 활용하는 데에 한계가 있다는 문제를 해결하기 위해.
• 국소 잔차 학습과 전역 밀집 특징 집합을 향상시켜 깊은 네트워크의 특징 흐름을 개선하기 위해.
• 장기적인 텍스트 인식 작업에서 높은 성능을 유지하면서도 계산 비용이 적은 아키텍처를 설계하기 위해.
• 밀집 블록의 영감을 받은 새로운 블록 구조를 통해 전역 잔차 특징의 적응형이고 종합적인 학습을 가능하게 하기 위해.
• 최적화된 잔차 및 밀집 연결을 통해 계산 오버헤드를 줄이고 정확도를 유지하거나 향상시키기 위해.

제안 방법

• 국소 특징 융합과 잔차 학습을 유지하면서도 계산 비용을 감소시키는 빠른 잔차 밀집 블록(f-RDB)을 제안한다.
• 전역 잔차 특징을 종합적이고 적응적으로 학습하기 위해 밀집 블록 설계를 모방하는 전역 밀집 블록(GDB)을 도입한다.
• GDB 내부에서 합산 연산과 다중 f-RDB를 활용하여 계층 간 특징을 집계함으로써 향상된 전역 표현을 확보한다.
• 특징 맵의 크기를 줄이고 더 깊은 표현을 추출하기 위해 두 개의 합성곱 레이어를 다운샘플링 블록으로 사용한다.
• f-RDB와 GDB를 스택형으로 계층적으로 조합하여 점진적으로 깊이 있는 계층적 특징을 구축한다.
• f-RDB, GDB, 다운샘플링 블록을 스택하여 전체 FDRN 네트워크를 설계함으로써 특징 흐름과 표현 최적화를 달성한다.

실험 결과

연구 질문

• RQ1 깊은 CNN에서 텍스트 인식 성능 향상을 위해 국소 및 전역 특징 흐름을 어떻게 향상시킬 수 있는가?
• RQ2 통합된 아키텍처 내에서 국소 잔차 학습과 전역 밀집 특징 집합을 통합할 경우 어떤 영향을 미치는가?
• RQ3 경량 블록 설계(f-RDB)는 계산 비용을 줄이면서도 텍스트 인식 네트워크에서 성능을 유지할 수 있는가?
• RQ4 제안된 전역 밀집 블록(GDB)은 표준 잔차 블록이나 밀집 블록과 비교해 특징 표현을 어떻게 향상시키는가?
• RQ5 모든 계층에서 특징을 계층적으로 통합할 경우, 장면 텍스트 인식에서 정확도 향상에 어느 정도 기여하는가?

주요 결과

• FDRN은 장면 텍스트 인식을 위한 여러 벤치마크 데이터셋에서 최신 기술 성능(SOTA)을 달성하며 기존 모델들을 능가한다.
• 제안된 f-RDB는 표준 잔차 밀집 블록의 국소 특징 융합 및 잔차 학습 능력을 유지하면서도 계산 비용을 감소시킨다.
• 전역 밀집 블록(GDB)은 전역 잔차 특징의 적응형이고 종합적인 학습을 가능하게 하여 특징 표현을 크게 향상시킨다.
• FDRN은 모든 계층에서 뛰어난 일반화 능력과 특징 흐름을 보이며, 결과적으로 정확도 향상에 기여한다.
• 광범위한 추상화 실험을 통해 f-RDB와 GDB 구성 요소가 추론 복잡도를 증가시키지 않으면서도 성능 향상에 효과적이라는 것이 확인되었다.