[論文レビュー] Interaction Networks for Learning about Objects, Relations and Physics

Peter Battaglia, Razvan Pascanu+3 more|arXiv (Cornell University)|Dec 1, 2016

Topic Modeling参考文献 26被引用数 576

ひとこと要約

本論文は、相互作用ネットワークを紹介します。グラフ構造のニューラルモデルで、物体とそれらの関係を別々に推論して動態を予測し、エネルギーなどの抽象的性質を多様な物理領域にわたって推定します。

ABSTRACT

Reasoning about objects, relations, and physics is central to human intelligence, and a key goal of artificial intelligence. Here we introduce the interaction network, a model which can reason about how objects in complex systems interact, supporting dynamical predictions, as well as inferences about the abstract properties of the system. Our model takes graphs as input, performs object- and relation-centric reasoning in a way that is analogous to a simulation, and is implemented using deep neural networks. We evaluate its ability to reason about several challenging physical domains: n-body problems, rigid-body collision, and non-rigid dynamics. Our results show it can be trained to accurately simulate the physical trajectories of dozens of objects over thousands of time steps, estimate abstract quantities such as energy, and generalize automatically to systems with different numbers and configurations of objects and relations. Our interaction network implementation is the first general-purpose, learnable physics engine, and a powerful general framework for reasoning about object and relations in a wide variety of complex real-world domains.

研究の動機と目的

• 複雑な物理系における物体と関係の推論を動機付け、形式化する。
• 物体中心の推論と関係中心の推論を分離する、一般的で学習可能なエンジンを開発する。
• 複数ステップの軌道予測と抽象的性質推定を正確に示す。
• 異なる数と配置の物体と関係を持つ系への一般化を示す。

提案手法

• 系を物体をノード、関係をエッジとする属性付き有向多重グラフとして表現する。
• 関係モデル f_R を用いて各関係の相互作用効果 e_k を計算する。
• 受信側の物体ごとに相互作用効果を集約し、物体状態と外部効果とともに物体モデル f_O に入力して次状態を予測する。
• 全ての関係と物体に対して共有の f_R と f_O を勾配ベースの最適化で訓練する。
• オプションとして、グローバルな特性（例：ポテンシャルエネルギー）を予測する抽象化モジュール φ_A を追加する。
• 可変サイズのグラフに対して可換性/結合法性を保証するマージャリング関数 m と集約 a を用いて、MLP による実装を行う。

実験結果

リサーチクエスチョン

• RQ1 複雑な物理系において、物体中心・関係中心のニューラルモデルは未来の状態を予測できるか。
• RQ2 異なる数と配置の物体と関係を持つ系にどの程度一般化できるか。
• RQ3 学習した動力学からポテンシャルエネルギーなどの抽象的な系の特性を推定できるか。
• RQ4 関係中心と物体中心の推論を分離することで、ベースラインよりも精度と一般化が改善されるか。
• RQ5 このアプローチは、n体・剛体衝突・非剛体動力学など、複数の物理領域にスケール可能か。

主な発見

• モデルは、すべての領域で次ステップの速度を他のベースラインよりもはるかに低い MSE で予測する。
• IN は訓練時に見た系よりも少数または多数の物体を持つ系へ一般化し、しばしば小さな系で訓練されたモデルよりも優れている。
• IN によるロールアウトは数千ステップにわたって真の物理と視覚的に一致し、長距離ダイナミクスが一貫している。
• ポテンシャルエネルギーなどの抽象的な特性推定器は、IN を用いた推定がMLPベースラインを大幅に上回る（例：n体・糸領域）。
• 相互作用効果の正則化は一般化を改善し、長いロールアウトでのドリフトを減らす。