[论文解读] Closed Form for Some Gaussian Convolutions

Hossein Mobahi|arXiv (Cornell University)|Feb 10, 2016

Image and Object Detection Techniques参考文献 6被引用 3

一句话总结

本文推导出两类重要函数类的魏尔斯特拉斯变换（高斯卷积）的闭式表达式：多变量多项式和高斯径向基函数（RBF）。结果表明，多项式与各向同性高斯核的卷积结果为另一个多项式，其系数由埃尔米特多项式决定；而高斯RBF与高斯核的卷积则产生一个缩放且更宽的高斯RBF。这些结果使得在尺度空间滤波、特征提取和优化等应用中能够实现精确的解析计算。

ABSTRACT

The convolution of a function with an isotropic Gaussian appears in many contexts such as differential equations, computer vision, signal processing, and numerical optimization. Although this convolution does not always have a closed form expression, there are important family of functions for which closed form exists. This article investigates some of such cases.

研究动机与目标

• 推导多变量多项式与高斯径向基函数的魏尔斯特拉斯变换的精确闭式表达式。
• 为需要高斯平滑的应用（如图像处理、信号滤波和非凸优化）提供高效的解析计算工具。
• 利用埃尔米特多项式与卷积恒等式，统一处理不同函数类的高斯卷积。
• 在闭式解存在的场景中，实现精确计算而非数值近似，从而提升精度与效率。

提出的方法

• 利用埃尔米特多项式表达单项式与各向同性高斯核的卷积，借助恒等式 $ u(x,p,\tau) = (i\tau)^p h_p(x/(i\tau)) $，其中 $ h_p $ 为第 $ p $ 个埃尔米特多项式。
• 应用卷积定理及狄拉克函数与高斯函数的性质，推导出形如 $ f(\boldsymbol{x}^T \boldsymbol{w}) $ 的函数的闭式解，表明变换结果依赖于权向量的范数。
• 推导高斯RBF $ e^{-\frac{\|\boldsymbol{x}-\boldsymbol{x}_j\|^2}{2\delta_j^2}} $ 与核 $ k_\sigma $ 的卷积，结果为一个缩放且更宽的RBF，其方差为 $ \delta_j^2 + \sigma^2 $。
• 利用恒等式 $ [f(h(\cdot)) \star k_\sigma](\boldsymbol{w}) = \tilde{f}(\boldsymbol{w}^T \boldsymbol{x}; \sigma \|\boldsymbol{x}\|) $，将结果推广至向量的线性泛函形式。
• 采用两个高斯函数的卷积：$ k_{\delta}(at+b) \star k_{\sigma}(x-t) = k_{\sqrt{\delta^2 + a^2\sigma^2}}(at+b) $，该恒等式是推导线性参数形式卷积的基础。
• 提供从 $ p = 0 $ 到 $ 10 $ 的 $ u(x,p,\sigma) $ 显式表格，支持多项式卷积的直接计算。

实验结果

研究问题

• RQ1 多变量多项式的魏尔斯特拉斯变换能否以闭式表达？若能，其解析结构为何？
• RQ2 高斯径向基函数与各向同性高斯核的卷积是否存在闭式表达式？
• RQ3 函数 $ f(\boldsymbol{x}^T \boldsymbol{w}) $ 与高斯核的卷积如何依赖于向量 $ \boldsymbol{x} $ 的范数？
• RQ4 三角函数（如 $ \sin(x) $ 和 $ \cos(x) $）与高斯函数的卷积具有何种解析形式？
• RQ5 如何利用高斯卷积恒等式简化形如 $ f(ax+b) $ 的线性参数函数的卷积？

主要发现

• 单项式 $ x_d^{p_{d,j}} $ 与一维高斯核的卷积为 $ u(x_d, p_{d,j}, \sigma) = (i\sigma)^{p_{d,j}} h_{p_{d,j}}(x_d/(i\sigma)) $，其中 $ h_p $ 为第 $ p $ 个埃尔米特多项式。
• 对于多变量多项式 $ f(\boldsymbol{x}) = \sum_j a_j \prod_d x_d^{p_{d,j}} $，其完整卷积为 $ [f \star k_\sigma](\boldsymbol{x}) = \sum_j a_j \prod_d u(x_d, p_{d,j}, \sigma) $，可实现精确的解析求值。
• 高斯RBF $ e^{-\|\boldsymbol{x}-\boldsymbol{x}_j\|^2 / (2\delta_j^2)} $ 与 $ k_\sigma $ 的卷积结果为 $ \left(\frac{\delta_j}{\sqrt{\delta_j^2 + \sigma^2}}\right)^n e^{-\|\boldsymbol{x}-\boldsymbol{x}_j\|^2 / (2(\delta_j^2 + \sigma^2))} $，即一个缩放且更宽的RBF。
• $ f(\boldsymbol{x}^T \boldsymbol{w}) $ 与 $ k_\sigma $ 的卷积为 $ \tilde{f}(\boldsymbol{w}^T \boldsymbol{x}; \sigma \|\boldsymbol{x}\|) $，表明有效平滑尺度依赖于权向量的范数。
• 对于三角函数如 $ \sin(x) $ 和 $ \cos(x) $，卷积结果分别为 $ e^{-\sigma^2/2} \sin(x) $ 和 $ e^{-\sigma^2/2} \cos(x) $；高阶三角函数则产生更复杂但依然为闭式表达的结果。
• $ f(ax+b) $ 与高斯核的卷积结果为 $ k_{\sqrt{\delta^2 + a^2\sigma^2}}(ax+b) $，表明参数的线性变换会导致核宽度的重新标度。