[論文レビュー] Generative Deep Deconvolutional Learning

Yunchen Pu, Xin Yuan+1 more|arXiv (Cornell University)|Dec 18, 2014

Generative Adversarial Networks and Image Synthesis参考文献 18被引用数 4

ひとこと要約

本論文では、効率的なトップダウン生成モデリングと単層の逆畳み込み推論を可能にするため、確率的プーリングを用いた深層生成的畳み込み辞書学習モデルを提案する。上位層の辞書要素を線形演算によってデータ平面に直接投影することにより、深層アーキテクチャを用いても、テスト時の計算量を最小限に抑えながら、MNISTおよびCaltech 101で最先端の分類性能を達成する。

ABSTRACT

A generative Bayesian model is developed for deep (multi-layer) convolutional dictionary learning. A novel probabilistic pooling operation is integrated into the deep model, yielding efficient bottom-up and top-down probabilistic learning. After learning the deep convolutional dictionary, testing is implemented via deconvolutional inference. To speed up this inference, a new statistical approach is proposed to project the top-layer dictionary elements to the data level. Following this, only one layer of deconvolution is required during testing. Experimental results demonstrate powerful capabilities of the model to learn multi-layer features from images. Excellent classification results are obtained on both the MNIST and Caltech 101 datasets.

研究の動機と目的

• マルチレイヤー畳み込み辞書学習をサポートする、効率的なボトムアップおよびトップダウン確率的学習を可能にする深層生成モデルの開発。
• 全レイヤーにわたる統合推論を可能にし、整合的なトップダウン生成プロセスを支援する、新しい確率的プーリング操作の統合。
• 上位層の辞書要素をデータ平面に投影することで、テスト時の計算コストを低減し、多層の逆畳み込みではなく単層の逆畳み込みを可能にする。
• トレーニング時に深層アーキテクチャを用いても、推論時に低複雑性を維持するモデルで、画像データセットにおける高い分類精度を達成すること。

提案手法

• 各レイヤーの特徴がカテゴリカル分布を介して次のレイヤーにマッピングされる階層的深層アーキテクチャを用いて生成モデルを構築し、スパarsityと確率的プーリングを強制する。
• 確率的プーリングは、プーリングブロックごとに1つの特徴のみを活性化し、他のすべての特徴をゼロに設定する形で実装され、トップダウン推論のための適切な生成モデルを実現する。
• ボトムアップの事前学習は、Gibbsサンプリングを用いてレイヤーごとに実施し、パラメータを学習した後、特徴表現の向上を図るために統合的なトップダウン最適化を実施する。
• 上位層の辞書要素をデータ平面に直接線形演算でマップする新しい統計的射影法を提案し、テスト時に多層の逆畳み込みを必要としなくなる。
• 推論時には、射影された上位層特徴を用いて単一の逆畳み込み層を適用するだけであり、テスト時の計算量を著しく削減できる。
• パラメータの最大事後確率（MAP）推定にはGibbsサンプラーを用い、ベイジアンフレームワーク内での効率的な学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 確率的プーリングを備えた深層生成モデルは、階層的畳み込み辞書フレームワークにおいて、全レイヤーにわたる効率的で統合的な学習を可能にするか？
• RQ2 深層畳み込みネットワークにおいて、高いテスト時の計算コストを伴わずに、トップダウン生成モデリングを効率的かつスケーラブルに実現できるか？
• RQ3 上位層の辞書をデータ平面に射影することで可能になる単層の逆畳み込み推論ステップは、多層の逆畳み込みと同等またはそれを上回る性能を達成できるか？
• RQ4 確率的プーリングの統合は、深層畳み込み辞書学習における決定的プーリングと比較して、特徴表現と分類精度を向上させるか？

主な発見

• 本モデルは、1クラスあたり30枚のトレーニング画像を用いてCaltech 101で82.78%の分類精度を達成し、ImageNet事前学習を施した7層畳み込みネットワークの性能に近づいた。
• 1クラスあたり15枚のトレーニング画像を用いた3層アーキテクチャでも、Caltech 101で75.24%の精度を達成し、限られたデータでも優れた一般化性能を示した。
• 事前学習段階から refinement を経た後、分類性能が約17%向上したため、パrameterの統合的最適化が有効であることが示された。
• 上位層の辞書をデータ平面に射影することで、テスト時に単層の逆畳み込みを適用でき、トレーニング時のネットワークの深さにかかわらず計算コストを削減できる。
• 高層の層で学習された辞書はクラス固有の性質を示す一方、低層の辞書はより汎用的であることが明らかになり、階層的特徴抽象化を反映している。
• 顔データにおける補間結果から、欠損部分が段階的に回復しており、2層目の辞書が非常に詳細な再構成を生成することがわかった。