[论文解读] Convolutional Neural Nets: Foundations, Computations, and New Applications

Shengli Jiang, Ví­ctor M. Zavala|arXiv (Cornell University)|Jan 13, 2021

Fault Detection and Control Systems参考文献 20被引用 9

一句话总结

本文对卷积神经网络（CNNs）进行了全面综述，统一了其在统计学、信号处理和优化领域的数学基础。它展示了CNNs如何通过学习最优卷积算子进行特征提取和预测，从而将应用范围从图像推广至多样化网格结构数据——如时间序列、分子模拟和流式细胞术数据。

ABSTRACT

We review mathematical foundations of convolutional neural nets (CNNs) with the goals of: i) highlighting connections with techniques from statistics, signal processing, linear algebra, differential equations, and optimization, ii) demystifying underlying computations, and iii) identifying new types of applications. CNNs are powerful machine learning models that highlight features from grid data to make predictions (regression and classification). The grid data object can be represented as vectors (in 1D), matrices (in 2D), or tensors (in 3D or higher dimensions) and can incorporate multiple channels (thus providing high flexibility in the input data representation). For example, an image can be represented as a 2D grid data object that contains red, green, and blue (RBG) channels (each channel is a 2D matrix). Similarly, a video can be represented as a 3D grid data object (two spatial dimensions plus time) with RGB channels (each channel is a 3D tensor). CNNs highlight features from the grid data by performing convolution operations with different types of operators. The operators highlight different types of features (e.g., patterns, gradients, geometrical features) and are learned by using optimization techniques. In other words, CNNs seek to identify optimal operators that best map the input data to the output data. A common misconception is that CNNs are only capable of processing image or video data but their application scope is much wider; specifically, datasets encountered in diverse applications can be expressed as grid data. Here, we show how to apply CNNs to new types of applications such as optimal control, flow cytometry, multivariate process monitoring, and molecular simulations.

研究动机与目标

• 通过将CNNs与统计学、信号处理、线性代数和优化领域的核心概念相联系，阐明其数学基础。
• 阐明CNNs的计算机制，特别是学习到的卷积算子在特征提取中的作用。
• 将CNNs的应用范围从传统视觉任务扩展至科学与工程领域中的结构化网格数据。
• 识别并展示CNNs可有效应用的新领域，如最优控制和多变量过程监控。
• 表明任何可表示为网格（1D、2D、3D或更高维）且具有多个通道的数据集均可由CNNs处理，从而提升其灵活性与实用性。

提出的方法

• 使用线性代数和微分方程的数学框架形式化CNNs，将卷积操作描述为对网格结构数据的线性变换。
• 整合优化技术，学习将输入数据映射到期望输出的卷积滤波器，将滤波器权重视为可训练参数。
• 将输入数据表示为张量（向量、矩阵或高阶数组），并支持多通道输入，实现灵活的输入表示（如RGB图像、视频、多变量时间序列）。
• 通过将输入重新表述为网格结构张量（如将时间序列视为1D网格，将分子坐标视为3D网格），将CNNs应用于非视觉数据。
• 使用反向传播和基于梯度的优化方法在新应用领域训练CNNs，确保端到端学习相关特征。
• 通过在最优控制、流式细胞术、过程监控和分子模拟中的案例研究，展示CNNs的适应性，其中网格结构使有效特征学习成为可能。

实验结果

研究问题

• RQ1 CNNs如何在信号处理和优化等既有领域中实现数学上的严谨化？
• RQ2 何种机制使CNNs能够从图像数据之外的其他类型网格结构数据中泛化？
• RQ3 CNNs在从时间序列或分子构型等非视觉数据集中提取有意义特征方面，可采取哪些适应方式？
• RQ4 在不同科学领域中，使用CNNs处理结构化网格数据在计算与表示方面具有哪些优势？
• RQ5 CNNs中学习到的卷积算子如何在非传统数据类型上实现有效的回归与分类？

主要发现

• CNNs不仅限于图像或视频数据；它们可应用于任何可表示为多维网格（含多个通道）的数据。
• CNNs中卷积的核心操作可被解释为一种学习到的线性变换，能从结构化数据中提取分层特征，其数学基础源于多个学科的原理。
• 通过将多变量时间序列或分子模拟数据重新表述为2D或3D网格，CNNs可在过程监控和最优控制等领域能够有效学习模式并做出准确预测。
• 利用优化技术使CNNs能够自动学习与特定任务最相关的卷积算子，从而提升特征检测与预测性能。
• 在流式细胞术和分子模拟中的应用表明，CNNs即使在数据本身并非自然可视的情况下，也能以高精度建模复杂且高维的数据结构。
• 所提出的框架为多样化科学与工程应用中的特征学习提供统一方法，显著拓宽了CNNs的适用范围。