[論文レビュー] Phase Harmonics and Correlation Invariants in Convolutional Neural Networks.

Stéphane Mallat, Sixin Zhang+1 more|arXiv (Cornell University)|Oct 29, 2018

Neural Networks and Applications参考文献 12被引用数 5

ひとこと要約

本稿では、1層畳み込みニューラルネットワーク（CNN）における相関行列のスパースでリプシッツ連続な表現として、複素解析接続された畳み込み層係数のフーリエ変換により導出される位相ハーモニクスを提案する。位相ハーモニクスによる相関関係は、特にフィルタがウェーブレットである場合、少数のハーモニクスのみを用いても1次元信号および画像の高精度な再構成を可能にする。

ABSTRACT

We prove that linear rectifiers act as phase transformations on complex analytic extensions of convolutional network coefficients. These phase transformations are linearized over a set of phase harmonics, computed with a Fourier transform. The correlation matrix of one-layer convolutional network coefficients is a translation invariant representation, which is used to build statistical models of stationary processes. We prove that it is Lipschitz continuous and that it has a sparse representation over phase harmonics. When network filters are wavelets, phase harmonic correlations provide important information about phase alignments across scales. We demonstrate numerically that large classes of one-dimensional signals and images are precisely reconstructed with a small fraction of phase harmonic correlations.

研究の動機と目的

• 畳み込みニューラルネットワーク（CNN）における線形整流関数と、ネットワーク係数の複素解析接続における位相変換を結びつける理論的枠組みを確立すること。
• 位相ハーモニクスを用いて、1層CNNにおける平行移動不変かつリプシッツ連続な相関表現を構築すること。
• フィルタがウェーブレットである場合、位相ハーモニクスによる相関関係がスケール間の構造的情報を効果的に捉えられることを示すこと。
• 信号および画像の高精度な再構成に、最小限の位相ハーモニクス相関関係の集合で十分であることを示すこと。

提案手法

• 線形整流関数の下での位相挙動をモデル化するため、畳み込み層係数に複素解析接続を適用すること。
• 複素数値係数表現上でフーリエ変換を実行し、位相ハーモニクスを計算すること。
• シフトに対して不変な相関行列を、平行移動不変な表現として導出すること。
• 入力摂動に対して相関行列のリプシッツ連続性を証明すること。
• 相関行列の位相ハーモニクス基底上でのスパース表現を確立すること。
• ウェーブレットフィルタを用いて、位相ハーモニクス相関を通じたスケール間の位相整合を分析すること。

実験結果

リサーチクエスチョン

• RQ1 CNNにおける線形整流関数は、係数を複素領域に拡張した場合、その位相構造にどのように影響を与えるか？
• RQ2 1層CNN係数の相関行列は、位相ハーモニクスのスパースな組み合わせとして表現可能か？
• RQ3 ウェーブレットベースのフィルタにおいて、位相ハーモニクス相関関係がスケール間の位相整合をどのように捉えているか？
• RQ4 少数の位相ハーモニクス相関関係のみを用いて、信号および画像をどの程度の精度で再構成できるか？
• RQ5 入力の変動に対して、CNN係数の相関行列はリプシッツ連続か？

主な発見

• 線形整流関数は、CNN係数の複素解析接続における位相変換を引き起こし、フーリエ解析により位相ハーモニクス上で線形化される。
• 1層CNN係数の相関行列は、入力摂動に対してリプシッツ連続であることが証明された。
• 相関行列は位相ハーモニクス基底上でスパースに表現可能であり、効率的なモデリングが可能である。
• フィルタがウェーブレットである場合、位相ハーモニクス相関関係はスケール間の重要な位相整合情報を明らかにする。
• 数値実験により、1次元信号および画像の多数のクラスが、位相ハーモニクス相関関係のわずかな部分集合のみを用いても高精度に再構成可能であることが確認された。