[論文レビュー] Learning Group Structure and Disentangled Representations of Dynamical Environments

Robin Quessard, Thomas D. Barrett+1 more|arXiv (Cornell University)|Feb 17, 2020

Neural Networks and Applications参考文献 42被引用数 11

ひとこと要約

本稿では、動的環境の分離可能で解釈可能な表現を学習するための群表現理論に基づくフレームワークを提案する。対称性を保存する変換を潜在空間内の特別直交行列としてモデル化することで、群構造を保つ忠実で低ランクの変換行列を促進する分離正則化を導入し、対称的環境における予測性能と分離性の相関を示した。

ABSTRACT

Learning disentangled representations is a key step towards effectively discovering and modelling the underlying structure of environments. In the natural sciences, physics has found great success by describing the universe in terms of symmetry preserving transformations. Inspired by this formalism, we propose a framework, built upon the theory of group representation, for learning representations of a dynamical environment structured around the transformations that generate its evolution. Experimentally, we learn the structure of explicitly symmetric environments without supervision from observational data generated by sequential interactions. We further introduce an intuitive disentanglement regularisation to ensure the interpretability of the learnt representations. We show that our method enables accurate long-horizon predictions, and demonstrate a correlation between the quality of predictions and disentanglement in the latent space.

研究の動機と目的

• 対称性群の事前知識がなくても、動的環境の分離可能な表現を学習する手法を開発すること。
• 物理学に由来する群表現理論と機械学習における表現学習の間の関係を確立すること。
• 環境の動的ダイナミクスの構造的かつ解釈可能な潜在表現を学習することで、長期予測を正確に実現すること。
• 潜在空間における分離性を促進する正則化技術を導入し、予測一般化性能を向上させること。
• 分離可能な表現が対称的環境における予測性能の向上と相関することを実証的に検証すること。

提案手法

• 変換を潜在ベクトル上に線形に作用する特別直交行列として符号化する潜在空間を用いて、環境のダイナミクスを表現する。
• 教師なしで逐次的相互作用データを用いて、変分オートエーコーダに類似したアーキテクチャで、対称性の群構造を学習する。
• 各変換行列が潜在次元の小さな、明確に分離された部分集合にのみ作用するように制限する分離正則化を適用する。
• 観測値を4次元の潜在空間に符号化し、回転行列の積として変換をモデル化することで、構造的表現学習を可能にする。
• 再構成損失と分離正則化を用いて、エンドツーエンドでモデルを訓練し、忠実な群表現を促進する。
• 構造的インダクティブバイアスの欠如する直接予測ベースラインと比較して、長期軌道における予測性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 対称性群の事前知識がなくても、観測データから動的環境の分離可能な表現を学習できるか？
• RQ2 潜在空間における分離性の強制が、長期予測性能にどのように影響するか？
• RQ3 学習された変換行列が、環境の対称性の真の群構造をどの程度反映しているか？
• RQ4 各変換ごとに活性化される潜在次元数を制限する正則化が、分離性と予測精度の向上に寄与するか？
• RQ5 分離度と長期予測の質の間に測定可能な相関が存在するか？

主な発見

• 提案手法は、教師なしで明示的に対称的な環境の背後にある群構造を、逐次的観測データから正しく学習できた。
• 分離正則化により、巡回性や可換関係といった群の主要な性質をよりよく保持する変換行列が得られた。
• 直接予測ベースラインでは、繰り返しの符号化・再構成による誤差蓄積のため、時間の経過とともに予測性能が著しく低下した。
• 分離正則化を施した本フレームワークは、直接予測モデルおよび正則化なしのフレームワークと比較して、優れた長期予測精度を達成した。
• 潜在空間における分離度と長期予測の正確さの間に明確な相関が観察された。
• 各変換における活性化潜在次元数に対する単純な正則化が、自然に分離性を促進し、一般化性能を向上させることを示した。