[论文解读] S2RMs: Spatially Structured Recurrent Modules

Nasim Rahaman, Anirudh Goyal+6 more|arXiv (Cornell University)|Jul 13, 2020

Domain Adaptation and Few-Shot Learning参考文献 33被引用 8

一句话总结

S2RMs 引入了一类新型的动态模型，通过联合利用空间结构和模块化、稀疏交互的循环单元，提升了在部分观测设置下的鲁棒性和泛化能力。通过基于度量的注意力机制学习空间感知的交互拓扑，S2RMs 在从裁剪帧进行视频预测以及在 StarCraft II 中的多智能体世界建模任务中，优于强基线模型，尤其在分布外（distribution shift）和观测数量减少的情况下表现更优。

ABSTRACT

Capturing the structure of a data-generating process by means of appropriate inductive biases can help in learning models that generalize well and are robust to changes in the input distribution. While methods that harness spatial and temporal structures find broad application, recent work has demonstrated the potential of models that leverage sparse and modular structure using an ensemble of sparingly interacting modules. In this work, we take a step towards dynamic models that are capable of simultaneously exploiting both modular and spatiotemporal structures. We accomplish this by abstracting the modeled dynamical system as a collection of autonomous but sparsely interacting sub-systems. The sub-systems interact according to a topology that is learned, but also informed by the spatial structure of the underlying real-world system. This results in a class of models that are well suited for modeling the dynamics of systems that only offer local views into their state, along with corresponding spatial locations of those views. On the tasks of video prediction from cropped frames and multi-agent world modeling from partial observations in the challenging Starcraft2 domain, we find our models to be more robust to the number of available views and better capable of generalization to novel tasks without additional training, even when compared against strong baselines that perform equally well or better on the training distribution.

研究动机与目标

• 开发一种能够联合利用数据中空间结构和模块化结构的动态模型，以提升泛化能力和鲁棒性。
• 解决从具有已知空间位置的部分局部观测中建模系统的问题。
• 使模型能够动态学习局部性，而非依赖预定义的空间邻域。
• 在分布外（OOD）设置下以及可用观测数量变化时，提升模型性能。
• 通过结合稀疏消息传递与空间归纳偏置，提升模型的表达能力和效率。

提出的方法

• 每个子系统被建模为独立的循环神经网络（RNN），以支持其状态的自主演化。
• 子系统之间的交互通过瓶颈化的注意力机制实现，消息传递受学习到的空间接近度限制。
• 子系统被嵌入到一个度量空间中，距离决定交互强度，从而实现空间结构化的稀疏性。
• 模型通过端到端训练，损失函数结合了二元交叉熵（友好标记）、分类交叉熵（单位类型）和均方误差（HECS 标记）。
• 通过编码器和解码器中的循环卷积来引入空间结构，以处理极坐标系下的观测。
• 交互拓扑并非预定义，而是通过学习获得，使模型能够基于空间和动态线索发现有效的模块化分组。

实验结果

研究问题

• RQ1 一种基于空间接近度学习自身交互拓扑的模型，是否能在未见过的观测配置中实现更好的泛化能力？
• RQ2 在模块化循环系统中引入空间结构，如何提升对缺失或部分观测的鲁棒性？
• RQ3 此类模型在无需微调的情况下，能在多大程度上泛化到分布外场景？
• RQ4 在时空建模中，学习动态的局部性概念是否优于固定邻域假设？
• RQ5 此类模型能否在保持表达能力的同时，高效扩展到大规模空间系统？

主要发现

• 当较少智能体提供观测时，S2RMs 展现出稳健性能，即使在高达 50% 的智能体被移除的情况下，仍能保持预测准确性。
• 在 OOD 场景 1s2z 中，S2RMs 在友好标记和 HECS 标记的 F1 分数上全面优于所有基线模型。
• 在 5s3z OOD 场景中，S2RMs 的性能与 RMCs 相当，但仍展现出强大的泛化能力。
• 在从裁剪帧进行视频预测的任务中，S2RMs 达到了最先进性能，尤其在部分观测设置下表现突出。
• 学习到的交互拓扑使模型能够将远距离但空间上一致的区域（例如整条大道）抽象为单一模块，从而提升长距离建模能力。
• 基于度量的注意力机制实现了高效且稀疏的交互，能够在系统规模增大时良好扩展，同时保持表达能力。