[論文レビュー] A Mathematical Motivation for Complex-valued Convolutional Networks

Joan Bruna|arXiv (Cornell University)|Mar 11, 2015

Image and Signal Denoising Methods参考文献 20被引用数 8

ひとこと要約

本論文は、深層学習におけるマルチスケールでデータ駆動型の窓関数スペクトルを学習するための数学的に根拠のある枠組みとして、複素数値畳み込みネットワーク（複素数値convnets）を提案する。複素数畳み込み、絶対値非線形性、局所平均化を組み合わせることで、このアーキテクチャはマルチスケール窓関数パワー・スペクトルおよび非線形マルチウェーブレット・パケージに正確に対応し、調和解析の厳密な応用が可能となり、ベンチマークタスクにおいて実数値ネットワークと同等の性能を達成する。

ABSTRACT

A complex-valued convolutional network (convnet) implements the repeated application of the following composition of three operations, recursively applying the composition to an input vector of nonnegative real numbers: (1) convolution with complex-valued vectors followed by (2) taking the absolute value of every entry of the resulting vectors followed by (3) local averaging. For processing real-valued random vectors, complex-valued convnets can be viewed as "data-driven multiscale windowed power spectra," "data-driven multiscale windowed absolute spectra," "data-driven multiwavelet absolute values," or (in their most general configuration) "data-driven nonlinear multiwavelet packets." Indeed, complex-valued convnets can calculate multiscale windowed spectra when the convnet filters are windowed complex-valued exponentials. Standard real-valued convnets, using rectified linear units (ReLUs), sigmoidal (for example, logistic or tanh) nonlinearities, max. pooling, etc., do not obviously exhibit the same exact correspondence with data-driven wavelets (whereas for complex-valued convnets, the correspondence is much more than just a vague analogy). Courtesy of the exact correspondence, the remarkably rich and rigorous body of mathematical analysis for wavelets applies directly to (complex-valued) convnets.

研究の動機と目的

• 複素数値畳み込みネットワークをマルチスケール窓関数スペクトルおよびウェーブレット理論と結びつけることで、理論的基盤を確立すること。
• 複素数値convnetsが自然にデータ駆動型マルチスケール窓関数絶対値スペクトルおよび非線形マルチウェーブレット・パケージを実装することを示すこと。
• アーキテクチャの構造が、ウェーブレットおよびマルチウェーブレットの豊富な数学的理論を深層学習に直接応用可能にすることを示すこと。
• 特に信号および画像処理において、複素数値convnetsを深層学習の原理的ベースラインアーキテクチャとして提唱すること。
• 標準ベンチマークデータセット上で、複素数値convnetsの性能を標準の実数値ネットワークおよびスキャッタリング変換と比較して実証的に検証すること。

提案手法

• ネットワークは再帰的構成をとる：複素数畳み込みの後、絶対値活性化、その後局所平均化（サブサンプリング）。
• アーキテクチャは、局所定常確率過程のマルチスケール窓関数パワー・スペクトルと正式に結びつけられる。
• 絶対値演算は局所的平行移動不変性を強制し、エネルギーに類似した特徴を捉える。これはウェーブレット・パケージ変換に類似している。
• 階層的フィルタリングと複数スケールでの非線形性を通じて、非線形マルチウェーブレット・パケージへ一般化可能である。
• 調和解析に基づくフレームワークであり、ダウベシスウェーブレット、マルチウェーブレット、スキャッタリング変換と理論的関係を有する。
• 実世界のデータ上でエンド・ツー・エンドに訓練され、実数値ReLUネットワークおよびスキャッタリングベースのモデルと性能を比較した。

実験結果

リサーチクエスチョン

• RQ1 複素数値畳み込みネットワークを調和解析におけるマルチスケール窓関数スペクトルと正式に結びつける方法は何か？
• RQ2 複素数値convnetsにおける絶対値非線形性の数学的解釈は何か？
• RQ3 複素数値convnetsがどれほど、マルチウェーブレットおよびウェーブレット・パケージ変換のデータ駆動型アナログを実現するか？
• RQ4 ウェーブレットおよびマルチウェーブレットの理論的枠組みを、深層学習アーキテクチャの解析および改善に直接応用可能か？
• RQ5 標準ベンチマークにおいて、複素数値convnetsは実数値ネットワークおよびスキャッタリング変換と比べてどの程度の性能を示すか？

主な発見

• 複素数値convnetsは、データ駆動型マルチスケール窓関数スペクトルを計算し、非線形マルチウェーブレット・パケージ変換と正確に対応する。
• アーキテクチャの構造のおかげで、ウェーブレット理論からの厳密な調和解析ツール（例：ウェーブレット理論）を深層学習に直接応用可能である。
• 本手法はImageNetで12%のテスト誤差率を達成し、実数値ネットワークと同等であり、スキャッタリング変換よりも顕著に優れている。
• 複素数値convnetsの性能はネットワークサイズおよび訓練深さの増加に伴い向上し、スケーラビリティおよび強力な表現能力を示唆する。
• 鏡像画像を用いた訓練データの拡張により収束性と最終的な正確性が向上した。これはデータ効率性を示している。
• 理論的基盤は、特に信号および画像モデリングにおいて、複素数値convnetsを原理的ベースラインとして支持する。