[논문 리뷰] A Survey of Convolutional Neural Networks: Analysis, Applications, and Prospects

Zewen Li, Wenjie Yang외 2명|arXiv (Cornell University)|2020. 04. 01.

Advanced Neural Network Applications참고 문헌 84인용 수 264

한 줄 요약

이 논문은 CNN을 역사에서 현재 상태까지 다루며 1D, 2D 및 다차원 CNN을 포함하고 실험적 통찰과 향후 방향을 제시한다.

ABSTRACT

Convolutional Neural Network (CNN) is one of the most significant networks in the deep learning field. Since CNN made impressive achievements in many areas, including but not limited to computer vision and natural language processing, it attracted much attention both of industry and academia in the past few years. The existing reviews mainly focus on the applications of CNN in different scenarios without considering CNN from a general perspective, and some novel ideas proposed recently are not covered. In this review, we aim to provide novel ideas and prospects in this fast-growing field as much as possible. Besides, not only two-dimensional convolution but also one-dimensional and multi-dimensional ones are involved. First, this review starts with a brief introduction to the history of CNN. Second, we provide an overview of CNN. Third, classic and advanced CNN models are introduced, especially those key points making them reach state-of-the-art results. Fourth, through experimental analysis, we draw some conclusions and provide several rules of thumb for function selection. Fifth, the applications of one-dimensional, two-dimensional, and multi-dimensional convolution are covered. Finally, some open issues and promising directions for CNN are discussed to serve as guidelines for future work.

연구 동기 및 목표

• CNN의 역사와 발전에 대한 폭넓은 개요를 제공한다.
• 고전 및 진보된 CNN 모델과 그 핵심 혁신을 요약한다.
• 함수 선택에 대한 실험적 통찰과 실용적 가이드라인을 제시한다.
• 1D, 2D 및 다차원 합성곱의 응용을 논의한다.
• 향후 연구를 위한 미해결 이슈와 유망한 방향을 식별한다.

제안 방법

• 역사적 맥락과 CNN 개요를 종합한다.
• 고전 및 진보된 CNN 아키텍처와 그 결정적 혁신들을 검토한다.
• 실험 결과를 분석하여 함수 선택에 대한 결론과 경험적 규칙을 도출한다.
• 1D, 2D 및 다차원 합성곱에 걸친 응용을 논의한다.
• 미해결 이슈를 강조하고 향후 연구 방향을 제안한다.

실험 결과

연구 질문

• RQ1 CNN 역사 및 모델 설계의 주요 이정표와 발전은 무엇인가?
• RQ2 CNN 실험에서 도출할 수 있는 경험적 결론과 실용적 규칙은 무엇인가?
• RQ3 1D, 2D 및 다차원 합성곱은 어떻게 다양한 영역에 적용되는가?
• RQ4 CNN 연구를 위한 미해결 이슈와 유망한 방향은 무엇인가?

주요 결과

• 이 조사는 빠르게 성장하는 분야에서 CNN에 대한 새로운 아이디어와 전망을 제공하는 것을 목표로 한다.
• 일차원, 이차원, 다차원 합성곱을 다룬다.
• CNN의 역사, 모델, 그리고 최첨단 결과를 가능하게 하는 핵심 포인트에 대한 개요를 제공한다.
• 실험 분석은 함수 선택에 대한 결론과 실용적 규칙을 도출한다.
• 이 논문은 응용을 논의하고 미해결 이슈와 향후 방향을 식별한다.