[論文レビュー] A theoretical argument for complex-valued convolutional networks

Joan Bruna, Soumith Chintala+4 more|arXiv (Cornell University)|Mar 11, 2015

Image and Signal Denoising Methods参考文献 18被引用数 3

ひとこと要約

本稿では、マルチスケールのウィンドウ付きパワースペクトル、絶対スペクトル、非線形マルチウェーブレットパケージを計算するためのデータ駆動型フレームワークとして、複素数値の畳み込みネットワーク（複素数値convnets）を提案する。複素数畳み込み、絶対値、局所平均を適用することで、時系列および画像データにおける確率過程に対して、波形に類似した変換に正確に対応する階層的かつ適応的表現が生成される。

ABSTRACT

A complex-valued convolutional network (convnet) implements the repeated application of the following composition of three operations, recursively applying the composition to an input vector of nonnegative real numbers: (1) convolution with several complex-valued vectors followed by (2) taking the absolute value of every entry of the resulting vectors followed by (3) local averaging. For processing real-valued random vectors, complex-valued convnets can be viewed as “data-driven multiscale windowed power spectra,” “data-driven multiscale windowed absolute spectra,” “data-driven multiwavelet absolute values,” or (in their most general configuration) “data-driven nonlinear multiwavelet packets.” Indeed, complex-valued convnets can calculate multiscale windowed spectra when the convnet filters are windowed complex-valued exponentials. Standard real-valued convnets, using rectified linear units (ReLUs), sigmoidal (for example, logistic or tanh) nonlinearities, max. pooling, etc., do not obviously exhibit the same exact correspondence with data-driven wavelets (whereas for complex-valued convnets, the correspondence is much more than just a vague analogy). This note develops “data-driven multiscale windowed spectra” for certain stochastic processes that are common in the modeling of time series (such as audio) and natural images (including patterns and textures). We motivate the construction of such multiscale spectra in the form of “local averages of multiwavelet absolute values” or (in the most general configuration) “nonlinear multiwavelet packets” and connect these to certain “complex-valued convolutional networks.” A textbook treatment of all concepts and terms used above and below is given by [12]. Further information is available in the original work of [7], [15], [5], [4], [19], [16], [9], [20], and [18], for example. The work of [8], [13], [17], [2], and [3] also develops complex-valued convolutional networks (convnets). Renormalization group theory and its connection to convnets is discussed by [14]; this connection is incredibly insightful, though we leave further discussion to the cited work. Our exposition relies on nothing but the basic signal processing treated by [12]. For simplicity, we first limit consideration to the special case of a doubly infinite sequence of nonnegative random variables Xk, where k ranges over the integers. This input data will be the result of convolving an unmeasured independent and identically distributed (i.i.d.) sequence Zk, where k ranges over the integers, with an unknown sequence of real numbers fk, where k ranges over the integers (this latter sequence is known as a “filter,” whereas the i.i.d. sequence is known as “white noise”):

研究の動機と目的

• 複素数値convnetsをデータ駆動型マルチスケールウィンドウ付きスペクトルの表現として理論的基盤を確立すること。
• 複素数値convnetsが、未知のフィルタで畳み込まれた白色ノイズのような確率過程に信号処理の原則を適用することで自然に生じることを示すこと。
• 複素数値convnetsとウェーブレットに基づく変換の間の対応関係、特にマルチウェーブレットの絶対値および非線形マルチウェーブレットパケージについての明確化。
• 標準的な実数値convnets（例：ReLU、マックスプーリング）と比較し、ウェーブレット理論との理論的整合性が優れている点を示すこと。
• 高度な前提知識を必要とせず、標準教科書レベルの信号処理のみを用いて自己完結的な解説を提供すること。

提案手法

• モデルは、独立同一分布の白色ノイズを未知の実数値フィルタで畳み込んだ、二重無限の非負実数値確率変数の系列を処理する。
• 三つの操作の合成を適用する：(1) 複素数値フィルタによる畳み込み、(2) 要素ごとの絶対値、(3) 局所平均化。
• 複素数値フィルタは、ウィンドウ付き複素指数関数として解釈され、マルチスケールスペクトル成分の抽出を可能にする。
• 得られるアーキテクチャは、フィルタの設定に応じて、データ駆動型マルチスケールウィンドウ付きパワースペクトルまたは絶対スペクトルを計算することが示される。
• フィルタが単純なウィンドウ付き指数関数に制限されない場合、非線形マルチウェーブレットパケージへ一般化可能である。
• フレームワークは信号処理理論に裏付けられており、再正規化群理論との関連が示唆されているが、詳細には述べられていない。

実験結果

リサーチクエスチョン

• RQ1 複素数値畳み込みと絶対値、プーリングが、マルチスケールウィンドウ付きスペクトルに類似した表現をどのように生成するか？
• RQ2 複素数値convnetsとウェーブレット変換の理論的関係、特にマルチウェーブレット絶対値に関しては？
• RQ3 なぜ複素数値convnetsは、ReLUやマックスプーリングを用いる標準的な実数値convnetsよりも、ウェーブレット理論とより正確に対応するのか？
• RQ4 複素数値convnetsはどのように、フィルタド白色ノイズのような確率過程の自然な表現として生じるのか？
• RQ5 畳み込み、絶対値、局所平均の合成が、階層的かつデータ駆動型のスペクトル特徴をどのように生成するのか？

主な発見

• フィルタがウィンドウ付き複素指数関数である場合、複素数値convnetsはデータ駆動型マルチスケールウィンドウ付きパワースペクトルを生成する。
• アーキテクチャはマルチウェーブレット絶対値の局所平均を計算し、非線形的かつ適応的スペクトル表現を提供する。
• 最も一般的な設定では、非線形マルチウェーブレットパケージへ一般化可能であり、より豊かな特徴階層を可能にする。
• 複素数値convnetsとウェーブレットに類似した変換との対応関係は正確で理論的に裏付けられており、単なる類似性ではない。
• ReLUやマックスプーリングを用いる標準的な実数値convnetsは、ウェーブレット理論との直接的かつ明確な関連を欠いている。
• モデルは基本的な信号処理の原則から導出されており、教科書レベルの知識を超える高度な理論的道具具を必要としない。