[論文レビュー] Disentangled Representations in Neural Models

WILLIAM F. WHITNEY|arXiv (Cornell University)|Feb 7, 2016

Generative Adversarial Networks and Image Synthesis参考文献 52被引用数 8

ひとこと要約

本論文は、視覚と計算の両分野において、2つの補完的アプローチを用いてニューラルネットワーク内の分離表現を学習するフレームワークを提案する。視覚分野では深層畳み込み逆画像生成ネットワーク（DC-IGN）を、計算分野ではコントローラ関数ネットワーク（CFN）を用いる。バッチ単位の変換制御と継続的学習を用いて分離性を強制することで、性能に損なわれることなく解釈可能で再利用可能で、壊滅的忘却に対して強い表現を達成する。

ABSTRACT

Representation learning is the foundation for the recent success of neural network models. However, the distributed representations generated by neural networks are far from ideal. Due to their highly entangled nature, they are di cult to reuse and interpret, and they do a poor job of capturing the sparsity which is present in real- world transformations. In this paper, I describe methods for learning disentangled representations in the two domains of graphics and computation. These methods allow neural methods to learn representations which are easy to interpret and reuse, yet they incur little or no penalty to performance. In the Graphics section, I demonstrate the ability of these methods to infer the generating parameters of images and rerender those images under novel conditions. In the Computation section, I describe a model which is able to factorize a multitask learning problem into subtasks and which experiences no catastrophic forgetting. Together these techniques provide the tools to design a wide range of models that learn disentangled representations and better model the factors of variation in the real world.

研究の動機と目的

• 深層ニューラルネットワークにおけるエンタングルドで解釈不能な表現の限界を克服すること。
• モデルの性能を犠牲にすることなく、視覚および計算分野で分離表現を学習する手法を開発すること。
• タスクを再利用可能で解釈可能なコンponentsに因子分解することで、マルチタスク学習における壊滅的忘却を軽減すること。
• 画像属性（例：ポーズ、照明）のゼロショット操作を可能にし、新しい条件への一般化を実現すること。
• 非微分可能関数を学習可能な重み付けメカニズムで合成できる微分可能アーキテクチャを設計すること。

提案手法

• 変分オートエンコーダの目的関数と確率的バックプロパゲーションを用いてDC-IGNを学習し、ミニバッチごとに1つの潜在変数のみが変動し、他の変数はバッチ平均に固定されるようにする。
• ミニバッチに1つの変換要因（例：顔の回転、照明変更）のみが活性化されている状態を提示することで、分離性を強制し、各潜在ニューロンが1つの変動要因のみを捉えるようにする。
• 入力に応じて複数の原始的関数の重みを学習するコントローラ関数ネットワーク（CFN）を用い、モジュラーで解釈可能な計算を実現する。
• CFNでハードおよびソフト意思決定を実装し、ノイズを含む意思決定と継続的学習法を用いて、関数合成の段階的改善を図る。
• コントローラーの勾配が関数の勾配に依存しないという性質を活用し、関数が非微分可能であっても学習が可能になるようにする。
• 継続的学習を用いて、訓練中に段階的にタイムステップ数を増やしながら、深く複数ステップのCFNを学習し、分離性と性能を維持する。

実験結果

リサーチクエスチョン

• RQ1 微分可能でエンドツーエンドの訓練手順を用いて、画像変換に対する因子化制御を強制することで、視覚分野における分離表現を学習できるか？
• RQ2 計算分野における分離表現は、マルチタスク学習において性能を維持したまま壊滅的忘却を防げるか？
• RQ3 コントローラネットワークが学習可能な微分可能な重み付けを用いて、非微分可能関数を合成できる程度は何か？ これによりモジュラーで解釈可能な計算が可能になるか？
• RQ4 継続的学習を用いて、分離性を維持し、性能劣化を回避しながら、深く複数ステップのCFNを学習できるか？
• RQ5 統一されたフレームワークは、完全に教師なしで動画データの真の変動要因を推論・表現できるか？

主な発見

• DC-IGNモデルは、ポーズ、照明、形状といった画像要因を効果的に分離し、高い質的正確性で新しい条件下でのゼロショット画像再レンダリングを可能にする。
• 3D顔データセットにおいて、DC-IGNエンコーダは静的テスト画像から変換を正確に予測でき、複数のネットワーク構成においても性能が安定している。
• コントローラ関数ネットワーク（CFN）はマルチタスク学習において完全な関数の分離性を達成し、複雑な順序タスクを学習しても壊滅的忘却を示さない。
• CFNフレームワークにより、非微分可能関数に対して連続的かつ微分可能な重み付けを生成でき、関数の非微分性にもかかわらずバックプロパゲーションによる学習が可能になる。
• 実験により、エンタングルドベースラインと比較して、分離表現に性能コストが発生しないことが示され、一般化性能および頑健性が維持または向上している。
• DC-IGNとCFNの組み合わせにより、動画における変動要因の完全な教師なし推論への道筋が得られ、階層的でスパースかつ解釈可能なワールドモデルの構築が可能になる。