[论文解读] Learning Group Structure and Disentangled Representations of Dynamical Environments

Robin Quessard, Thomas D. Barrett+1 more|arXiv (Cornell University)|Feb 17, 2020

Neural Networks and Applications参考文献 42被引用 11

一句话总结

该论文提出了一种基于群表示理论的框架，通过在潜在空间中将保持对称性的变换建模为特殊正交矩阵，以学习动力环境的解耦、可解释表示。该方法引入了一种解耦正则化，通过鼓励忠实且低秩的变换矩阵来保持群结构，从而提高长时程预测的准确性，表明在对称环境中，解耦性与预测性能之间存在相关性。

ABSTRACT

Learning disentangled representations is a key step towards effectively discovering and modelling the underlying structure of environments. In the natural sciences, physics has found great success by describing the universe in terms of symmetry preserving transformations. Inspired by this formalism, we propose a framework, built upon the theory of group representation, for learning representations of a dynamical environment structured around the transformations that generate its evolution. Experimentally, we learn the structure of explicitly symmetric environments without supervision from observational data generated by sequential interactions. We further introduce an intuitive disentanglement regularisation to ensure the interpretability of the learnt representations. We show that our method enables accurate long-horizon predictions, and demonstrate a correlation between the quality of predictions and disentanglement in the latent space.

研究动机与目标

• 开发一种无需事先了解其对称群知识的方法，以学习动力环境的解耦表示。
• 建立物理启发的群表示理论与机器学习表示学习之间的联系。
• 通过学习环境动力学的结构化、可解释潜在表示，实现出色的长时程预测。
• 引入一种正则化技术，以促进潜在空间中的解耦性，增强预测泛化能力。
• 通过实证验证，表明在对称环境中，解耦表示与预测性能的提升存在显著相关性。

提出的方法

• 使用潜在空间表示环境的动力学，其中变换被编码为作用于潜在向量的特殊正交矩阵。
• 通过在无监督的序列交互数据上训练模型，使用类似变分自编码器的架构来学习对称性的群结构。
• 应用一种解耦正则化，限制每个变换矩阵仅作用于潜在维度的一个小而独立的子集，以促进独立性。
• 使用4维潜在空间来编码观测结果，并将变换建模为旋转矩阵的乘积，以实现结构化的表示学习。
• 端到端训练模型，使用重构损失和解耦正则化，以鼓励忠实的群表示。
• 在长时程轨迹上评估预测性能，与缺乏结构归纳偏置的直接预测基线进行比较。

实验结果

研究问题

• RQ1 能否从未知底层对称群知识的观测数据中学习到动力环境的解耦表示？
• RQ2 在潜在空间中强制实施解耦性对长时程预测性能有何影响？
• RQ3 所学习的变换矩阵在多大程度上反映了环境对称性的真正群结构？
• RQ4 一种限制每次变换中活跃潜在维度数量的正则化方法，是否能带来更好的解耦性和预测准确性？
• RQ5 解耦程度与长期预测质量之间是否存在可测量的相关性？

主要发现

• 所提出的方法成功地从未知对称性的序列观测数据中无监督地学习到了显式对称环境的底层群结构。
• 解耦正则化使得变换矩阵更好地保持了群的关键性质，如循环性和交换关系。
• 由于在重复编码和解码过程中误差累积，直接预测基线在长时间序列上的预测性能显著下降。
• 与直接预测模型和无正则化的框架相比，采用解耦正则化的所提框架在长时程预测中表现出更优的准确性。
• 在潜在空间中观察到了解耦程度与长期预测准确度之间的清晰相关性。
• 该方法表明，对每次变换中活跃潜在维度数量施加简单正则化，可自然促进解耦性并提升泛化能力。