[论文解读] Probabilistic Numeric Convolutional Neural Networks

Marc Finzi, Roberto Bondesan+1 more|arXiv (Cornell University)|Oct 21, 2020

Gaussian Processes and Bayesian Inference参考文献 56被引用 6

一句话总结

本文提出概率数值卷积神经网络（PNCNNs），这是一种新颖的框架，通过将特征图建模为高斯过程（GPs），显式表示并传播连续信号（如图像和时间序列）中的离散化不确定性。通过在这些GP特征上应用基于偏微分方程的连续卷积算子，PNCNNs在不规则采样下实现了鲁棒且等变的推理，在SuperPixel-MNIST上将误差降低了3倍，同时在PhysioNet2012上保持了具有竞争力的性能。

ABSTRACT

Continuous input signals like images and time series that are irregularly sampled or have missing values are challenging for existing deep learning methods. Coherently defined feature representations must depend on the values in unobserved regions of the input. Drawing from the work in probabilistic numerics, we propose Probabilistic Numeric Convolutional Neural Networks which represent features as Gaussian processes (GPs), providing a probabilistic description of discretization error. We then define a convolutional layer as the evolution of a PDE defined on this GP, followed by a nonlinearity. This approach also naturally admits steerable equivariant convolutions under e.g. the rotation group. In experiments we show that our approach yields a $3 imes$ reduction of error from the previous state of the art on the SuperPixel-MNIST dataset and competitive performance on the medical time series dataset PhysioNet2012.

研究动机与目标

• 解决图像和时间序列等连续、不规则采样信号在深度学习中的离散化误差挑战。
• 通过概率化建模特征，开发一种对采样分辨率和位置不变的神经网络架构。
• 利用概率数值方法，将未观测输入区域的不确定性整合到网络前向传播中。
• 通过在连续GP表示上操作，实现在旋转等连续变换下的等变卷积。
• 在具有缺失或稀疏数据的基准测试中，特别是在医学时间序列和图像分类任务中，超越现有方法。

提出的方法

• 将每一层的特征图表示为高斯过程（GPs），编码均值预测以及对未观测输入区域的不确定性。
• 将卷积层定义为在输入GP上求解偏微分方程（PDE）的结果，实现连续的、非离散化的操作。
• 对GP输出应用非线性激活（例如ReLU），推导出变换后GP的均值和协方差的闭式表达式。
• 利用生成函数技术和多元正态累积分布函数（CDF），计算非线性变换后GP的矩，从而实现可微分的反向传播。
• 利用GP框架自然支持在连续对称群（如旋转）下的可旋转卷积。
• 通过组合GP变换在网络中传播不确定性，显式追踪来自输入离散化的认知不确定性。

实验结果

研究问题

• RQ1 我们能否将深度神经网络的特征建模为高斯过程，以显式表示连续信号中未观测输入区域的不确定性？
• RQ2 如何在GP特征上定义一种避免标准CNN中固有离散化误差的连续卷积算子？
• RQ3 在不规则采样或低分辨率数据上，对特征图中的不确定性进行建模在多大程度上能提升鲁棒性和性能？
• RQ4 基于GP的框架能否支持在连续群（如旋转）下的等变卷积，从而实现更好的泛化能力？
• RQ5 在具有缺失或稀疏数据的基准测试（如SuperPixel-MNIST和PhysioNet2012）中，该方法与最先进模型相比表现如何？

主要发现

• PNCNN在SuperPixel-MNIST数据集上的误差相比之前最先进方法降低了3倍，显著提升了在不规则采样图像数据上的性能。
• 该方法在PhysioNet2012医学时间序列基准测试中保持了具有竞争力的性能，显示出对缺失和稀疏测量的鲁棒性。
• 通过将特征建模为GPs，网络显式追踪了离散化不确定性，从而改善了泛化能力并减少了对采样伪影的过拟合。
• 由于其对特征的连续函数表示，该框架自然支持在连续对称群（如旋转）下的可旋转卷积。
• 利用多元正态CDF和生成函数，推导出GP特征非线性变换（如ReLU）的闭式表达式，实现了高效且可微分的推理。
• 该方法优于标准CNN及其他对不规则输入进行插补或正则化的模型，因为它将不确定性作为学习过程中的第一类对象。