[论文解读] Object Files and Schemata: Factorizing Declarative and Procedural Knowledge in Dynamical Systems

Anirudh Goyal, Alex Lamb+6 more|arXiv (Cornell University)|Jun 29, 2020

Topic Modeling参考文献 24被引用 16

一句话总结

该论文提出了一种名为 scoff 的神经网络架构，通过将命题知识（通过对象文件表示的对象状态）与程序性知识（通过图式表示的动力学）进行分解，实现对动态环境中知识的因子化。通过基于注意力的图式与对象文件选择机制，该模型在相同对象类型的多个实例之间实现了系统性泛化，在存在显著遮挡的直觉物理基准测试中，性能显著优于当前最先进模型。

ABSTRACT

Modeling a structured, dynamic environment like a video game requires keeping track of the objects and their states declarative knowledge) as well as predicting how objects behave (procedural knowledge). Black-box models with a monolithic hidden state often fail to apply procedural knowledge consistently and uniformly, i.e., they lack systematicity. For example, in a video game, correct prediction of one enemy's trajectory does not ensure correct prediction of another's. We address this issue via an architecture that factorizes declarative and procedural knowledge and that imposes modularity within each form of knowledge. The architecture consists of active modules called object files that maintain the state of a single object and invoke passive external knowledge sources called schemata that prescribe state updates. To use a video game as an illustration, two enemies of the same type will share schemata but will have separate object files to encode their distinct state (e.g., health, position). We propose to use attention to determine which object files to update, the selection of schemata, and the propagation of information between object files. The resulting architecture is a drop-in replacement conforming to the same input-output interface as normal recurrent networks (e.g., LSTM, GRU) yet achieves substantially better generalization on environments that have multiple object tokens of the same type, including a challenging intuitive physics benchmark.

研究动机与目标

• 为解决黑箱循环模型在预测多个相似对象轨迹时缺乏系统性泛化的问题。
• 通过将持久的对象状态（命题知识）与行为规则（程序性知识）分离，对结构化动态环境进行建模。
• 通过将对象状态封装在活跃的对象文件中、将动力学封装在可重用的图式中，实现模块化与可解释性。
• 在存在多个相同对象类型的环境中提升泛化能力，尤其是在遮挡条件下。
• 证明知识因子化可带来在视觉动态环境中更鲁棒、更高效的训练。

提出的方法

• 该模型使用活跃的对象文件（of）来维护单个对象的持久状态，包括位置、速度及其他属性。
• 图式是被动的共享参数，用于定义对象状态如何随时间演化，如物理动力学或行为规则。
• 注意力机制根据输入选择相关联的对象文件与图式，实现对象文件之间的信息动态路由。
• 对象文件通过空间注意力机制相互竞争，以关注输入的不同区域，从而为状态更新选择最相关的信息。
• 该架构是标准 RNN（如 LSTM、GRU）的即插即用替代品，保持相同的输入输出接口。
• 模型通过注意力机制学习将特定图式绑定至对象文件，从而在相同类型对象之间实现系统性行为。

实验结果

研究问题

• RQ1 通过分解命题知识与程序性知识，神经网络架构是否能对同一对象类型的多个实例实现系统性泛化？
• RQ2 将对象状态（对象文件）与动力学（图式）分离，是否能提升在动态视觉环境中的泛化能力？
• RQ3 注意力机制是否能有效实现对象文件之间信息的路由，并为状态更新选择合适的图式？
• RQ4 在存在显著遮挡的环境中，当对象的持续性与动力学难以推断时，模型表现如何？
• RQ5 提供过多图式是否会导致未使用或低效的组件，还是模型能自适应地仅使用所需部分？

主要发现

• 在存在遮挡的直觉物理基准测试中，scoff 在 O1 任务（球体消失）上实现了 0.34 ± 0.05 的相对分类误差，优于先前模型。
• 在 O2 任务（形状变化）中，scoff 实现了 0.35 ± 0.05 的误差，显著低于基线模型。
• 在 O3 任务（瞬移）中，scoff 实现了 0.42 ± 0.02 的误差，再次优于竞争模型。
• 当 n_s = 10 个图式时，训练中仅使用了 3–4 个，表明资源利用高效且性能未下降。
• 模型未表现出“失效”图式，表明训练鲁棒，且在容量过剩情况下未陷入局部最优。
• scoff 展现了系统性泛化：若对吃豆人游戏中的一个幽灵预测正确，则对同类型其他幽灵的预测也正确，原因在于共享图式。