[論文レビュー] Closed Form for Some Gaussian Convolutions

Hossein Mobahi|arXiv (Cornell University)|Feb 10, 2016

Image and Object Detection Techniques参考文献 6被引用数 3

ひとこと要約

本稿では、多変数多項式およびガウス型径路基底関数（RBF）のワイエルシュトラス変換（ガウス型畳み込み）の閉形式表現を導出する。多項式と等方的ガウス核の畳み込みは、ヘルミート多項式によって定まる係数を持つ別の多項式を与える。一方、ガウス型RBFとガウス核の畳み込みは、スケーリングされ広がったRBFに一致する。これらの結果により、スケール空間フィルタリング、特徴抽出、最適化の応用において、正確な解析的計算が可能になる。

ABSTRACT

The convolution of a function with an isotropic Gaussian appears in many contexts such as differential equations, computer vision, signal processing, and numerical optimization. Although this convolution does not always have a closed form expression, there are important family of functions for which closed form exists. This article investigates some of such cases.

研究の動機と目的

• 多変数多項式およびガウス型径路基底関数のワイエルシュトラス変換に対する正確な閉形式表現を導出すること。
• 画像処理、信号フィルタリング、非凸最適化などの分野でガウス平滑化を要する応用における効率的計算のための解析的ツールを提供すること。
• ヘルミート多項式および畳み込み恒等式を用いて、異なる関数クラスにおけるガウス畳み込みを統一的に取り扱うこと。
• 数値近似ではなく閉形式が存在する文脈で正確な計算を可能にし、精度と効率を向上させること。

提案手法

• 単項式と等方的ガウス核の畳み込みを表すために、$ u(x,p,\tau) = (i\tau)^p h_p(x/(i\tau)) $ という恒等式を用い、$ h_p $ を $ p $-番目のヘルミート多項式とする。
• 畳み込み定理およびデルタ関数とガウス関数の性質を適用し、$ f(\boldsymbol{x}^T \boldsymbol{w}) $ の形をした関数の閉形式を導出。変換が重みベクトルのノルムに依存することを示す。
• ガウス型RBF $ e^{-\frac{\|\boldsymbol{x}-\boldsymbol{x}_j\|^2}{2\delta_j^2}} $ と核 $ k_\sigma $ の畳み込みを導出し、分散 $ \delta_j^2 + \sigma^2 $ のスケーリングされ広がったRBFが得られることを示す。
• 恒等式 $ [f(h(\cdot)) \star k_\sigma](\boldsymbol{w}) = \tilde{f}(\boldsymbol{w}^T \boldsymbol{x}; \sigma \|\boldsymbol{x}\|) $ を用い、ベクトルの線形関数への一般化を実現する。
• 2つのガウス関数の畳み込みを用いる：$ k_{\delta}(at+b) \star k_{\sigma}(x-t) = k_{\sqrt{\delta^2 + a^2\sigma^2}}(at+b) $。これは線形引数の場合の導出の根拠となる。
• $ p = 0 $ から $ 10 $ までの $ u(x,p,\sigma) $ の明示的表を提供し、多項式畳み込みの直接計算を可能にする。

実験結果

リサーチクエスチョン

• RQ1 多変数多項式のワイエルシュトラス変換は閉形式で表現可能か？ もしそうなら、その解析的構造は何か？
• RQ2 ガウス型径路基底関数と等方的ガウス核の畳み込みの閉形式表現は何か？
• RQ3 $ f(\boldsymbol{x}^T \boldsymbol{w}) $ をガウス核と畳み込んだ場合、その結果がベクトル $ \boldsymbol{x} $ のノルムにどのように依存するか？
• RQ4 正弦関数 $ \sin(x) $ や余弦関数 $ \cos(x) $ とガウス関数の畳み込みの解析的形は何か？
• RQ5 線形引数 $ f(ax+b) $ を持つ関数のガウス畳み込みは、ガウス畳み込み恒等式を用いてどのように簡略化できるか？

主な発見

• 1変数ガウス核との畳み込みにおける単項式 $ x_d^{p_{d,j}} $ の結果は、$ u(x_d, p_{d,j}, \sigma) = (i\sigma)^{p_{d,j}} h_{p_{d,j}}(x_d/(i\sigma)) $ で与えられる。ここで $ h_p $ は $ p $-番目のヘルミート多項式である。
• 多変数多項式 $ f(\boldsymbol{x}) = \sum_j a_j \prod_d x_d^{p_{d,j}} $ の全畳み込みは、$ [f \star k_\sigma](\boldsymbol{x}) = \sum_j a_j \prod_d u(x_d, p_{d,j}, \sigma) $ で与えられ、正確な解析的評価が可能になる。
• ガウス型RBF $ e^{-\|\boldsymbol{x}-\boldsymbol{x}_j\|^2 / (2\delta_j^2)} $ と $ k_\sigma $ の畳み込みは、$ \left(\frac{\delta_j}{\sqrt{\delta_j^2 + \sigma^2}}\right)^n e^{-\|\boldsymbol{x}-\boldsymbol{x}_j\|^2 / (2(\delta_j^2 + \sigma^2))} $ に一致し、スケーリングされ広がったRBFとなる。
• $ f(\boldsymbol{x}^T \boldsymbol{w}) $ と $ k_\sigma $ の畳み込みは $ \tilde{f}(\boldsymbol{w}^T \boldsymbol{x}; \sigma \|\boldsymbol{x}\|) $ に一致し、有効な平滑化スケールが重みベクトルのノルムに依存することを示す。
• 正弦関数 $ \sin(x) $ や余弦関数 $ \cos(x) $ との畳み込みは、それぞれ $ e^{-\sigma^2/2} \sin(x) $ および $ e^{-\sigma^2/2} \cos(x) $ に一致する。高次三角関数ではより複雑なが閉形式で得られる。
• 関数 $ f(ax+b) $ とガウス核の畳み込みは $ k_{\sqrt{\delta^2 + a^2\sigma^2}}(ax+b) $ に一致し、引数の線形変換が核幅のスケーリングを引き起こすことを示している。