[論文レビュー] Learning Deep Structured Models

Liang-Chieh Chen, Alexander G. Schwing+2 more|arXiv (Cornell University)|Jul 9, 2014

Domain Adaptation and Few-Shot Learning参考文献 50被引用数 114

ひとこと要約

本稿では、出力変数間の依存関係をモデル化するため、深層ニューラルネットワークとマーコフ確率場（MRFs）を統合する共同学習フレームワークを提案する。GPUアクセラレーションを用いた勾配降下法により、学習と推論を同期化するブレンド最適化戦略を採用しており、ノイズの多い画像からの単語予測およびマルチクラス画像分類において、深層特徴とMRFポテンシャルを共同で学習させることで、部分的またはユニタリーチェーンのみの学習手法を上回る性能を発揮する。

ABSTRACT

Many problems in real-world applications involve predicting several random variables which are statistically related. Markov random fields (MRFs) are a great mathematical tool to encode such relationships. The goal of this paper is to combine MRFs with deep learning algorithms to estimate complex representations while taking into account the dependencies between the output random variables. Towards this goal, we propose a training algorithm that is able to learn structured models jointly with deep features that form the MRF potentials. Our approach is efficient as it blends learning and inference and makes use of GPU acceleration. We demonstrate the effectiveness of our algorithm in the tasks of predicting words from noisy images, as well as multi-class classification of Flickr photographs. We show that joint learning of the deep features and the MRF parameters results in significant performance gains.

研究の動機と目的

• 深層学習における部分的学習の限界、すなわち特徴量と構造的依存関係が別々に学習されることによる性能劣化を是正すること。
• 出力変数間の統計的依存関係を捉える深層表現とMRFポテンシャルをエンドツーエンドで学習可能にする仕組みの構築。
• 一般グラフィカルモデルにおける推論がNP困難であり、パーティション関数の計算が#P困難であるにもかかわらず、スケーラブルな深層構造的モデルの学習を可能にする効率的な最適化アルゴリズムの開発。
• 実世界の視覚タスクにおいて、ユニタリーチェーンまたは2段階学習に比べて、共同学習の優位性を実証すること。

提案手法

• 深層ニューラルネットワーク特徴量とMRFポテンシャルを一度のループアルゴリズムで同時に最適化する共同最適化フレームワークを提案。
• 温度パラメータεが分布の鋭さを制御する微分可能かつアニーリングされたソフトマックス定式化を用いて、出力構成の確率分布を定義。
• 負の対数尤度を最小化するための勾配降下法を採用し、双対最適化を介してパーティション関数Zε(x,w)の勾配を計算。
• ブロック座標降下法を用いて、深層ネットワーク重みとMRFパラメータの間を交互に更新することで、GPUアクセラレーションを活用した効率的な学習を実現。
• マックスマージン学習問題をミニマックス最適化問題に再定式化するブレンド戦略を導入し、各ステップで推論が収束する必要がない共同更新を可能に。
• ミニバッチ学習とImageNet事前学習初期化を組み合わせたモーメンタムベースの部分勾配法を採用し、収束性の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 構造的予測タスクにおいて、深層特徴量とMRFポテンシャルを共同で学習することは、別個または部分的学習に比べて性能向上をもたらすか？
• RQ2 一般グラフィカルモデルにおける推論がNP困難であり、パーティション関数の計算が#P困難であるにもかかわらず、どのようにエンドツーエンド学習を効率的に行えるか？
• RQ3 MRFポテンシャルによる構造的依存関係の組み込みが、視覚タスクにおける深層モデルの予測精度に与える影響は何か？
• RQ4 学習と推論をブレンドすることで、反復的かつ交互な手法と比較して、学習速度と収束性がどのように向上するか？

主な発見

• Flickr30Kデータセットにおいて、深層特徴量とMRFパラメータの共同学習により分類誤差が7.25%に低下し、ユニタリーチェーン（9.36%）および部分的学習（7.70%）の手法を上回った。
• Word50データセットでは、共同学習が1.11%の誤差率を達成し、ノイズの多い画像からの単語予測において、ベースライン手法に比して一貫した性能向上を示した。
• 学習されたMRFポテンシャルは意味的な相関関係を的確に捉えており、例えば「people」は「female」、「male」、「portrait」と強く相関しており、「sea」は「water」、「sky」、「clouds」と共起していた。
• 学習と推論のブレンドにより、訓練時間の大幅な短縮が達成され、標準的な反復的手法に比べて、負の対数尤度と訓練誤差の両方が速やかに低下した。
• 出力間の補完的情報を活用することで、マルチクラス画像分類および単語予測タスクで最先端の性能を達成した。
• GPUアクセラレーションと学習ループ内での近似推論の活用により、大規模なグラフィカルモデルでも学習が可能となるスケーラブルかつ効率的なフレームワークが実現された。