[論文レビュー] S2RMs: Spatially Structured Recurrent Modules

Nasim Rahaman, Anirudh Goyal+6 more|arXiv (Cornell University)|Jul 13, 2020

Domain Adaptation and Few-Shot Learning参考文献 33被引用数 8

ひとこと要約

S2RMsは、空間構造とモジュラーで疎結合する再帰的ユニットを統合的に活用する動的モデルの新規クラスを導入し、部分観測設定におけるロバスト性と一般化性能を向上させる。メトリックに基づくアテンションを用いて空間的にインフォームドな相互作用トポロジーを学習することで、S2RMsは、クロップドフレームからの動画予測およびStarCraft IIにおけるマルチエージェントワールドモデリングにおいて、分布シフトや観測数の減少下でも強力なベースラインを上回る性能を発揮する。

ABSTRACT

Capturing the structure of a data-generating process by means of appropriate inductive biases can help in learning models that generalize well and are robust to changes in the input distribution. While methods that harness spatial and temporal structures find broad application, recent work has demonstrated the potential of models that leverage sparse and modular structure using an ensemble of sparingly interacting modules. In this work, we take a step towards dynamic models that are capable of simultaneously exploiting both modular and spatiotemporal structures. We accomplish this by abstracting the modeled dynamical system as a collection of autonomous but sparsely interacting sub-systems. The sub-systems interact according to a topology that is learned, but also informed by the spatial structure of the underlying real-world system. This results in a class of models that are well suited for modeling the dynamics of systems that only offer local views into their state, along with corresponding spatial locations of those views. On the tasks of video prediction from cropped frames and multi-agent world modeling from partial observations in the challenging Starcraft2 domain, we find our models to be more robust to the number of available views and better capable of generalization to novel tasks without additional training, even when compared against strong baselines that perform equally well or better on the training distribution.

研究の動機と目的

• 空間的およびモジュラー構造をデータに統合的に活用する動的モデルを開発し、一般化性能とロバスト性を向上させること。
• 既知の空間的位置を持つ部分的・局所的観測からのシステムモデリングの課題に対処すること。
• 事前に定義された空間的近傍に依存するのではなく、局所性を動的に学習できるようにすること。
• 利用可能な観測数の変動や分布外（OOD）設定下での性能を向上させること。
• 疎なメッセージパッシングと空間的インダクティブバイアスを組み合わせることで、モデルの表現力と効率性を拡張すること。

提案手法

• 各サブシステムは独立した再帰的ニューラルネットワーク（RNN）としてモデル化され、自己完結的な状態の進化が可能となる。
• サブシステム間の相互作用は、ボトルネック付きアテンション機構を介して行われ、メッセージパッシングは学習された空間的近接性によって制限される。
• 距離が相互作用強度を決定するメトリクス空間にサブシステムが埋め込まれ、空間的に構造化されたスパarsityが強制される。
• バイナリクロスエントロピー（フレンドリー・マーカー）、カテゴリカルクロスエントロピー（ユニットタイプ）、および平均二乗誤差（HECSマーカー）を組み合わせた損失関数を用いて、エンドツーエンドでモデルを訓練する。
• 円形畳み込みをエンコーダーおよびデコーダーに適用することで、極座標系の観測を処理するための空間的構造を組み込む。
• 相互作用トポロジーは事前に定義されておらず、空間的および動的ヒントに基づいて効果的なモジュラー集合をモデルが学習可能となる。

実験結果

リサーチクエスチョン

• RQ1 空間的近接性に基づいて自身の相互作用トポロジーを学習するモデルは、未観測の観測構成に一般化しやすいか？
• RQ2 モジュラー再帰的システムに空間的構造を組み込むことで、欠損または部分的観測に対するロバスト性はどのように向上するか？
• RQ3 このようなモデルは、ファインチューニングなしでどの程度分布外（OOD）のシナリオに一般化できるか？
• RQ4 時空間的モデリングにおいて、動的な局所性の概念を学習することは、固定された近傍仮定を上回る性能を発揮するか？
• RQ5 このようなモデルは、大規模な空間的システムにおいても、表現力と効率性を維持しながらスケーラブルに拡張可能か？

主な発見

• S2RMsは、観測を提供するエージェント数が少ない状況でもロバストな性能を示し、最大50％のエージェントが欠落した場合でも予測精度を維持した。
• OODシナリオ1s2zでは、S2RMsはフレンドリー・マーカーおよびHECSマーカーのF1スコアですべてのベースラインを上回った。
• 5s3z OODシナリオではRMCsと同等の性能を示したが、依然として強力な一般化能力を示した。
• 特に部分観測設定下で、クロップドフレームからの動画予測において最先端の性能を達成した。
• 学習された相互作用トポロジーにより、空間的に整合性のある遠方領域（例：全アベニュー）が1つのモジュールとして抽象化され、長距離モデリングが向上した。
• メトリックに基づくアテンションの使用により、効率的で疎な相互作用が実現され、システムサイズの増大に対しても表現力が保たれた。