[論文レビュー] On Complex Valued Convolutional Neural Networks

Nitzan Guberman|arXiv (Cornell University)|Feb 29, 2016

Advanced Neural Network Applications参考文献 29被引用数 106

ひとこと要約

この論文は複素入力と複素ウェイトを持つ複素値CNNの変種を提示し、その訓練の課題を分析し、位相構造を捉えつつ過剰適合を正則化できることを示す。細胞検出タスクを通じて実証される。

ABSTRACT

Convolutional neural networks (CNNs) are the cutting edge model for supervised machine learning in computer vision. In recent years CNNs have outperformed traditional approaches in many computer vision tasks such as object detection, image classification and face recognition. CNNs are vulnerable to overfitting, and a lot of research focuses on finding regularization methods to overcome it. One approach is designing task specific models based on prior knowledge. Several works have shown that properties of natural images can be easily captured using complex numbers. Motivated by these works, we present a variation of the CNN model with complex valued input and weights. We construct the complex model as a generalization of the real model. Lack of order over the complex field raises several difficulties both in the definition and in the training of the network. We address these issues and suggest possible solutions. The resulting model is shown to be a restricted form of a real valued CNN with twice the parameters. It is sensitive to phase structure, and we suggest it serves as a regularized model for problems where such structure is important. This suggestion is verified empirically by comparing the performance of a complex and a real network in the problem of cell detection. The two networks achieve comparable results, and although the complex model is hard to train, it is significantly less vulnerable to overfitting. We also demonstrate that the complex network detects meaningful phase structure in the data.

研究の動機と目的

• 自然画像の構造を捉えるために複素数の利用を動機づけ、CNNにおける正規化の可能性を探る。
• 実数CNNの一般化として複素値CNNを開発し、対応する訓練方式を確立する。
• 複素値CNNがより良く正規化するかどうか、細胞検出タスクで実数CNNとどう比較されるかを評価する。
• 複素ネットワークにおける位相構造の役割と表現学習への影響を特徴づける。

提案手法

• 複素入力と複素ウェイトを備えたCNNの複素値拡張を定義する。
• Wirtinger微分や複素勾配を含む訓練のための複素計算ツールとバックプロパゲーションを開発する。
• 複素畳み込みが実数畳み込みの制限付き形態として、パラメータが倍になることを示す。
• ネットワークアーキテクチャ内に複素ReLU、プーリング、プロジェクション層を実装する。
• 複素ネットワークと実数ネットワークを細胞検出タスクで比較する実証的研究を実施し、最適化の難易度や過学習の分析を含む。
• 学習した複素カーネルの定性的分析を提供し、位相感度を示す。

実験結果

リサーチクエスチョン

• RQ1 実用的な視覚タスクで、複素値CNNは実値CNNと同等の性能を達成できるか？
• RQ2 複素領域に計算を制限することが過学習を減らす正則化として機能するか？
• RQ3 学習されたフィルターにおける位相構造はどのように現れ、表現学習に影響するか？
• RQ4 複素値CNNの訓練に特有の数値的・最適化の課題は何か？
• RQ5 複素畳み込みは標準的な実数畳み込みとどのように結びつくか？

主な発見

• 複素値CNNはパラメータ数が2倍の実数CNNの制限された形である。
• 複素モデルは位相構造に敏感で、位相関連の問題に対する正則化モデルとして機能し得る。
• 経験的には、複素ネットワークと実ネットワークは細胞検出で同等の結果を達成するが、複素ネットワークの訓練は難しい。
• 複素ネットワークは実 counterpart に比べ過学習に対する脆弱性が低いことを示す。
• 本研究は、複素ネットワークがデータ中の意味のある位相構造を検出できることの証拠を提供する。