[논문 리뷰] Convolutional Neural Networks Demystified: A Matched Filtering Perspective Based Tutorial

Ljubiša Stanković, Danilo P. Mandic|arXiv (Cornell University)|2021. 08. 26.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 신호 및 이미지에서 사전 정의된 패턴을 식별하는 기능 검출 메커니즘으로서의 컨volution을 강조하여 컨volutional 신경망(CNNs)을 재해석한다. 컨벌루션 연산과 매칭 필터링 이론 사이의 직접적인 연결을 구축함으로써, 저자들은 물리적 직관성과 수학적 엄밀성을 바탕으로 한 가이드를 제공하여 CNN의 작동 원리, 역전파, 그리고 풀링 및 제로 패딩과 같은 설계 선택 사항을 해소한다. 이는 신호 및 이미지 처리 분야에서 딥러닝을 이해하기 위한 이론적으로 탄탄하고 시각적으로 지원되는 프레임워크를 제공한다.

ABSTRACT

Deep Neural Networks (DNN) and especially Convolutional Neural Networks (CNN) are a de-facto standard for the analysis of large volumes of signals and images. Yet, their development and underlying principles have been largely performed in an ad-hoc and black box fashion. To help demystify CNNs, we revisit their operation from first principles and a matched filtering perspective. We establish that the convolution operation within CNNs, their very backbone, represents a matched filter which examines the input signal/image for the presence of pre-defined features. This perspective is shown to be physically meaningful, and serves as a basis for a step-by-step tutorial on the operation of CNNs, including pooling, zero padding, various ways of dimensionality reduction. Starting from first principles, both the feed-forward pass and the learning stage (via back-propagation) are illuminated in detail, both through a worked-out numerical example and the corresponding visualizations. It is our hope that this tutorial will help shed new light and physical intuition into the understanding and further development of deep neural networks.

연구 동기 및 목표

• 신호 처리의 기본 원리에 기반하여 컨볼루션 신경망(CNNs)의 내부 작동 원리를 해소하기 위해 노력한다.
• CNN의 컨벌루션 연산과 매칭 필터링 이론 사이에 직접적이고 물리적으로 의미 있는 연결 고리를 구축한다.
• 수치 예제와 시각화를 활용하여 CNN의 피드포워드 및 역전파 과정을 단계별로 설명하는 가이드를 제공한다.
• 특히 신호 처리 및 머신러닝 분야의 연구자들과 학부생들에게 물리적 직관력과 이론적 명확성을 향상시키기 위해 CNN 설계를 개선한다.
• 블랙박스 사고 방식을 피하고 딥 네트워크의 깊은 이해와 향후 발전을 지원하는 교육적 프레임워크를 제공한다.

제안 방법

• CNN의 컨벌루션 레이어를 입력 신호와 반전된 필터 커널 간의 상관관계를 통해 사전 정의된 특징을 검출하는 매칭 필터로 재해석한다.
• 매칭 필터 출력 식 $ y(n) = x(n) * w(-n) $ 를 사용하여 기능 검출을 수식화하며, 여기서 $ w(n) $ 는 기능 템플릿이고 $ * $ 는 컨벌루션을 의미한다.
• 1차원 신호와 2차원 이미지 양쪽에 매칭 필터링 원리를 적용하여, 컨벌루션은 입력을 통해 필터를 슬라이딩하면서 위치에 관계없이 기능 존재 여부를 검출함을 보여준다.
• 피드포워드 단계(컨벌루션, 활성화, 풀링, 완전 연결 레이어 포함)를 시각화한 수치 예제를 도입하여 설명한다.
• 기울기 하강법이 최적의 기능 매칭과 연결됨을 보여주며, 매칭 필터링 프레임워크를 활용해 역전파와 가중치 갱신 과정을 설명한다.
• 제로 패딩, 스트라이드 컨벌루션, 맥스 풀링, 1×1 필터와 같은 실용적 CNN 구성 요소들을 매칭 필터링 원리의 자연스러운 연장선으로 소개한다.

Figure 1: Example of matched filtering, with two input signals, $\mathbf{x}_{1}$ and $\mathbf{x}_{2}$ , (containing different features) observed in two different scenarios. (a) The input signal with the first feature, ${\bf x}_{1}$ . (b) The second input signal. The impulse responses of the correspo

실험 결과

연구 질문

• RQ1 CNN의 컨벌루션 연산은 어떻게 기능 검출을 위한 매칭 필터링 과정으로 해석될 수 있는가?
• RQ2 컨벌루션을 블랙박스 연산으로 보는 것 대신, 왜 컨벌루션을 사용하는 데 물리적 및 수학적 근거가 있는가?
• RQ3 풀링, 제로 패딩, 1×1 컨벌루션과 같은 일반적인 CNN 구성 요소들은 매칭 필터링 프레임워크와 어떻게 일치하는가?
• RQ4 CNN의 역전파 과정은 최적의 기능 매칭 관점에서 매칭 필터링의 관점으로 이해할 수 있는가?
• RQ5 이 매칭 필터링 시각은 신호 및 이미지 처리 분야에서 CNN의 '블랙박스' 인식을 어떻게 개선하고 직관력을 향상시키는가?

주요 결과

• CNN의 컨벌루션 연산은 매칭 필터링과 수학적으로 동일하며, 각 필터는 입력 신호와 상관관계를 통해 특정 기능을 검출한다.
• 컨벌루션 레이어의 출력은 매칭 필터 응답에 해당하며, 입력 신호에 필터 커널과 일치하는 기능이 포함되어 있을 때 최댓값을 보인다.
• 이 프레임워크는 CNN이 기능의 위치에 대해 불변성을 가지는 이유를 설명한다. 컨벌루션 과정에서 필터가 입력을 슬라이딩하기 때문에 위치에 관계없이 기능을 검출할 수 있다.
• 1×1 컨벌루션은 채널 차원을 줄여서 파rameter 수를 감소시키며, 이 감소는 매칭 필터링 시각에서 자연스럽게 설명된다.
• 맥스 풀링과 드롭아웃은 강건한 방식으로 기능 검출을 유지하거나 정규화하므로 매칭 필터링 프레임워크와 일치함을 보였다.
• 가이드의 수치 예제는 높은 학습 정확도를 달성했으며(5 에포크, 1000 반복), 기능 검출과 네트워크 학습의 명확한 시각적 및 수치적 진행 상황을 보여주었다.

Figure 2: Illustration of the matched filter operation. Top panels: Two noisy input signals of the length $N=8$ (noise is denoted by $\varepsilon(n)$ ). Middle panels: Two features that we are searching for in the input signals of the length $M=3$ . The reversed versions of these features serve as t