[论文解读] Permutation-equivariant neural networks applied to dynamics prediction

Nicholas Guttenberg, Nathaniel Virgo+3 more|arXiv (Cornell University)|Dec 14, 2016

Neural Networks and Applications被引用 48

一句话总结

本文提出一种排列等变的神经网络架构，通过为所有对象对应用共享的可学习函数，再进行最大池化操作，以确保等变性，从而建模相互作用粒子的动力学。该方法在预测二维硬球轨迹方面表现出高精度，并能泛化到未见过的粒子数量，即使物体大小不一，也能实现泛化，方法中引入了辅助物体标签。

ABSTRACT

The introduction of convolutional layers greatly advanced the performance of neural networks on image tasks due to innately capturing a way of encoding and learning translation-invariant operations, matching one of the underlying symmetries of the image domain. In comparison, there are a number of problems in which there are a number of different inputs which are all 'of the same type' --- multiple particles, multiple agents, multiple stock prices, etc. The corresponding symmetry to this is permutation symmetry, in that the algorithm should not depend on the specific ordering of the input data. We discuss a permutation-invariant neural network layer in analogy to convolutional layers, and show the ability of this architecture to learn to predict the motion of a variable number of interacting hard discs in 2D. In the same way that convolutional layers can generalize to different image sizes, the permutation layer we describe generalizes to different numbers of objects.

研究动机与目标

• 开发一种对输入对象排列保持等变的神经网络架构，以实现在不同粒子数量下的泛化能力。
• 通过将排列等变性直接嵌入网络结构，解决标准神经网络在学习对称系统时的低效问题。
• 在无需规范输入排序的情况下，实现对复杂相互作用粒子动力学（如二维硬球系统中的碰撞）的精确预测。
• 研究辅助特征（如随机或物理标签）如何在排列不变框架下恢复对非相同物体的建模能力。

提出的方法

• 设计一种排列层，通过为每个对象应用共享的可学习函数处理其自身特征与所有其他对象的特征，然后对所有配对进行求和。
• 通过对所有对象索引使用最大池化操作，以强制实现排列等变性，确保输出随输入排列一致变换。
• 在成对交互层中嵌入深度神经网络，以建模粒子之间复杂的非线性相互作用势能。
• 引入二维随机向量辅助标签，以区分非相同粒子（如半径不同），同时保持整体架构的排列等变性。
• 使用均方误差作为损失函数，在不同粒子数量和物体类型的相互作用硬球轨迹上进行网络训练。
• 通过在未见过的粒子数量和具有异质粒子尺寸的系统上进行测试，评估泛化性能。

实验结果

研究问题

• RQ1 排列等变神经网络架构能否准确预测二维中相互作用粒子（如碰撞的硬球）的未来动力学？
• RQ2 所提出的架构能否泛化到训练过程中未见过的粒子数量？
• RQ3 当标准排列不变网络失效时，该网络在非相同粒子系统（如不同半径）中的建模能力如何？
• RQ4 辅助物体特征能否在保持排列等变性和泛化能力的同时，恢复对非相同粒子的建模能力？

主要发现

• 所提出的排列等变架构在包含8个小型和4个大型硬球的系统上实现了0.022的均方误差（MSE），与相同粒子系统的表现相当。
• 未使用辅助标签的基线网络在异质系统上的MSE为0.041，表明因无法区分物体类型而导致性能显著下降。
• 引入二维随机辅助标签后，异质系统上的性能得到显著提升，达到与同质系统相当的水平，证明了对非排列不变信息的有效恢复。
• 该架构在推理阶段能泛化到不同数量的粒子，即使训练集中的粒子数量是固定的。
• 通过在成对交互层中嵌入深度神经网络，该方法成功建模了复杂的非线性相互作用势能。
• 若在辅助标签中编码了新物体类型的潜在特征（如半径），该框架可实现对新物体类型的泛化。