[論文レビュー] Deep Sequential Neural Network

Ludovic Denoyer, Patrick Gallinari|arXiv (Cornell University)|Oct 2, 2014

Domain Adaptation and Few-Shot Learning参考文献 13被引用数 34

ひとこと要約

本稿では、入力に応じた動的変換パスを可能にする、深層順序ニューラルネットワーク（DSNN）という、深層学習の新規アーキテクチャを紹介する。各層で複数の候補マッピングから順序的に意思決定プロセスにより選択することで、入力依存の適応的変換を実現する。標準的な深層ネットワークが固定されたグローバル変換を適用するのに対し、DSNNは方策勾配学習を用いて選択方策とネットワーク重みを同時に最適化し、否定されたMNISTやチェッカーボードデータセットといった複雑で複数分布を示すデータにおいて優れた性能を示す。

ABSTRACT

Neural Networks sequentially build high-level features through their successive layers. We propose here a new neural network model where each layer is associated with a set of candidate mappings. When an input is processed, at each layer, one mapping among these candidates is selected according to a sequential decision process. The resulting model is structured according to a DAG like architecture, so that a path from the root to a leaf node defines a sequence of transformations. Instead of considering global transformations, like in classical multilayer networks, this model allows us for learning a set of local transformations. It is thus able to process data with different characteristics through specific sequences of such local transformations, increasing the expression power of this model w.r.t a classical multilayered network. The learning algorithm is inspired from policy gradient techniques coming from the reinforcement learning domain and is used here instead of the classical back-propagation based gradient descent techniques. Experiments on different datasets show the relevance of this approach.

研究の動機と目的

• 標準的な深層ニューラルネットワークにおける固定でグローバルな変換の制限を克服し、入力に依存する動的特徴抽出を可能にする。
• 異なる入力分布に対して別個の変換シーケンスを学習することで、多様な特性を示すデータを処理できるニューラルネットワークを実現する。
• 方策勾配法とバックプロパゲーションを組み合わせた学習フレームワークを導入し、選択方策と重みを同時に最適化する。
• 提案されたモデルが、標準DNNが学習できない複雑な非線形意思決定境界を捉えることができることを示す。
• 各層の候補マッピング数を1つに減じた極限において、DSNNが標準DNNと理論的・実験的に同等であるかどうかを検証する。

提案手法

• 各層に複数の候補マッピング（変換）が存在するDAGとしてネットワークを構造化し、1つの表現空間から別の空間への変換を定義する。
• 推論時、現在の入力表現に基づいて各層で1つのマッピングを選択する順序的意思決定プロセスが実行され、ルートからリーフへのパスが形成される。
• 選択方策を方策勾配技術（具体的には強化学習の方策勾配の拡張）を用いて学習し、ネットワーク重みは標準的なバックプロパゲーションで更新する。
• 各層における選択関数を、候補マッピングの確率分布を出力する微分可能方策として定義する。
• 予測損失を最小化すると同時に、各入力に対して最も効果的なマッピングのシーケンスを学習するための共同目的関数を最適化する。
• 隠れ層には整流線形ユニット（ReLUs）を用い、選択ヘッドのための方策勾配更新を含めた確率的勾配降下法でエンドツーエンド学習する。

実験結果

リサーチクエスチョン

• RQ1 入力の特徴に応じて複数の変換パスから動的に選択することで、複雑なデータにおける一般化性能が向上するか？
• RQ2 入力データが複数の潜在的分布に従う場合、DSNNの性能は標準DNNと比べてどの程度優れているか？
• RQ3 方策勾配に基づく変換シーケンスの学習は、バックプロパゲーションのみの学習に比べて、非線形意思決定境界をどれほど効果的に捉えるか？
• RQ4 アーキテクチャの選択（例：候補マッピング数や隠れ層のサイズ）が、一般化能力に与える影響はどの程度か？
• RQ5 各層の候補マッピング数が1つに減少した極限において、提案されたDSNNフレームワークは標準DNNと同等であるか？

主な発見

• 元画像と反転画像の2つの異なる分布からサンプリングされるMNIST-Negativeデータセットでは、隠れ層のない標準DNNは37.4％の正確度にとどまるが、DSNNは2つの候補マッピングを用いて最大88.3％の正確度を達成した。
• 11×11のパターンを持つチェッカーボードデータセットでは、DSNN-3は10次元の隠れ層を用いて69.7％の正確度を達成し、標準DNNの50％のベースラインを著しく上回った。
• 標準MNISTデータセットでは、DSNNは標準DNNと同等の性能を示した（例：DSNN-5が95.4％、NNが95.3％）。これは単純な状況における同等性を確認するものである。
• 候補マッピング数が増加（例：10のアクション）すると、より大きなアーキテクチャのDSNNは過学習を起こし、性能が低下する傾向にあり、表現力と一般化性能のトレードオフが顕在化した。
• MNIST-Negativeデータセットにおいて25-25の隠れ層を有するDSNNは90.4％の正確度を達成し、より深いDSNNが複雑なデータ分布を効果的にモデル化できることを示した。
• 入力ごとに異なる変換パスを学習できる能力により、DSNNは標準DNNがモデル化できない複雑な非線形意思決定境界を捉えることができ、チェッカーボードタスクでの実験でその有効性が裏付けられた。