[论文解读] Convolutional Neural Networks Demystified: A Matched Filtering Perspective Based Tutorial

Ljubiša Stanković, Danilo P. Mandic|arXiv (Cornell University)|Aug 26, 2021

Neural Networks and Applications被引用 4

一句话总结

本文通过匹配滤波的视角重新诠释卷积神经网络（CNNs），将卷积视为一种特征检测机制，用于在信号和图像中识别预定义模式。通过在卷积运算与匹配滤波理论之间建立直接联系，作者提供了一篇具有物理直观性、数学严谨性的教程，揭示了CNNs的运作机制、反向传播过程以及池化、零填充等设计选择的原理，为信号与图像处理中的深度学习提供了理论坚实且可视化支持的理解框架。

ABSTRACT

Deep Neural Networks (DNN) and especially Convolutional Neural Networks (CNN) are a de-facto standard for the analysis of large volumes of signals and images. Yet, their development and underlying principles have been largely performed in an ad-hoc and black box fashion. To help demystify CNNs, we revisit their operation from first principles and a matched filtering perspective. We establish that the convolution operation within CNNs, their very backbone, represents a matched filter which examines the input signal/image for the presence of pre-defined features. This perspective is shown to be physically meaningful, and serves as a basis for a step-by-step tutorial on the operation of CNNs, including pooling, zero padding, various ways of dimensionality reduction. Starting from first principles, both the feed-forward pass and the learning stage (via back-propagation) are illuminated in detail, both through a worked-out numerical example and the corresponding visualizations. It is our hope that this tutorial will help shed new light and physical intuition into the understanding and further development of deep neural networks.

研究动机与目标

• 通过信号处理的基本原理，揭示卷积神经网络（CNNs）的内在工作机制。
• 在CNN中的卷积运算与匹配滤波理论之间建立直接且具有物理意义的联系。
• 提供一个分步教程，通过数值示例和可视化手段，解释CNN的前向传播与反向传播过程。
• 提升在信号处理与机器学习领域研究人员和学生中对CNN设计的物理直觉与理论清晰度。
• 提供一种教学框架，避免黑箱思维，支持对深度神经网络的深入理解与未来发展。

提出的方法

• 将CNN中的卷积层重新解释为一种匹配滤波器，通过将输入信号与反转的滤波核相关联来检测预定义特征。
• 使用匹配滤波输出方程 $ y(n) = x(n) * w(-n) $ 来形式化特征检测，其中 $ w(n) $ 为特征模板，$ * $ 表示卷积运算。
• 将匹配滤波原理应用于一维信号与二维图像，表明卷积通过滑动滤波器检测特征，无论其在输入中的位置如何。
• 引入一个包含可视化效果的数值示例，以演示前向传播过程，包括卷积、激活、池化与全连接层。
• 利用匹配滤波框架解释反向传播与权重更新过程，将梯度下降与最优特征匹配联系起来。
• 引入零填充、步长大卷积、最大池化与1×1卷积等实际CNN组件，作为匹配滤波原理的自然延伸。

Figure 1: Example of matched filtering, with two input signals, $\mathbf{x}_{1}$ and $\mathbf{x}_{2}$ , (containing different features) observed in two different scenarios. (a) The input signal with the first feature, ${\bf x}_{1}$ . (b) The second input signal. The impulse responses of the correspo

实验结果

研究问题

• RQ1 CNN中的卷积运算如何被解释为一种用于特征检测的匹配滤波过程？
• RQ2 为何在CNN中使用卷积而非将其视为黑箱操作，其物理与数学依据是什么？
• RQ3 常见的CNN组件（如池化、零填充与1×1卷积）如何与匹配滤波范式保持一致？
• RQ4 CNN中的反向传播过程能否通过匹配滤波与最优特征匹配的视角来理解？
• RQ5 这种匹配滤波视角如何提升直觉认知，并减少在信号与图像处理中CNN的“黑箱”感知？

主要发现

• CNN中的卷积运算在数学上等价于匹配滤波，其中每个滤波器通过与输入信号相关联来检测特定特征。
• 卷积层的输出对应于匹配滤波响应，当输入信号中包含与滤波核匹配的特征时，响应达到峰值。
• 该框架解释了为何CNN对特征位置具有不变性：卷积过程通过滑动滤波器在输入上检测特征，无论其位于何处。
• 1×1卷积通过减少通道维度来降低参数数量，而这一减少在匹配滤波视角下可自然解释。
• 最大池化与Dropout被证明与匹配滤波框架一致，因其以稳健方式保留或正则化特征检测。
• 教程中的数值示例在5个周期、1000次迭代内达到高训练准确率，并清晰展示了特征检测与网络学习的视觉与数值进展。

Figure 2: Illustration of the matched filter operation. Top panels: Two noisy input signals of the length $N=8$ (noise is denoted by $\varepsilon(n)$ ). Middle panels: Two features that we are searching for in the input signals of the length $M=3$ . The reversed versions of these features serve as t