[论文解读] Compositional Generalization by Learning Analytical Expressions

Qian Liu, Shengnan An+7 more|arXiv (Cornell University)|Jun 18, 2020

Topic Modeling被引用 19

一句话总结

本文提出了一种记忆增强型神经模型 Composer-Solver，通过分层强化学习学习解析表达式，实现组合泛化。通过将符号函数占位符与神经模块结合，该模型在所有 SCAN 基准任务上达到 100% 的准确率，显著优于先前的方法在零样本组合泛化方面的表现。

ABSTRACT

Compositional generalization is a basic and essential intellective capability of human beings, which allows us to recombine known parts readily. However, existing neural network based models have been proven to be extremely deficient in such a capability. Inspired by work in cognition which argues compositionality can be captured by variable slots with symbolic functions, we present a refreshing view that connects a memory-augmented neural model with analytical expressions, to achieve compositional generalization. Our model consists of two cooperative neural modules, Composer and Solver, fitting well with the cognitive argument while being able to be trained in an end-to-end manner via a hierarchical reinforcement learning algorithm. Experiments on the well-known benchmark SCAN demonstrate that our model seizes a great ability of compositional generalization, solving all challenges addressed by previous works with 100% accuracies.

研究动机与目标

• 为解决神经网络在组合泛化方面的关键局限性——即以新颖方式重新组合已知组件。
• 通过变量占位符和解析函数建模组合性，弥合符号认知原理与神经网络训练之间的差距。
• 开发一种可训练的端到端框架，模拟人类对已知部分的重新组合能力。

提出的方法

• 该模型采用两个协作的神经模块：Composer 负责使用符号函数占位符生成解析表达式，Solver 负责评估这些表达式。
• 系统通过分层强化学习算法进行训练，同时优化表达式的生成与执行。
• 解析表达式中的变量占位符代表已知组件的占位，支持在未见组合中的重新组合。
• 该框架通过记忆增强机制，在表达式构建过程中存储和检索中间符号表示。
• 训练过程采用奖励塑造，引导模型实现正确的组合泛化。
• 该方法是端到端可微的，并可扩展至复杂且组合性的任务。

实验结果

研究问题

• RQ1 神经模型能否通过带有符号占位符的解析表达式表示任务，实现组合泛化？
• RQ2 与先前方法相比，Composer-Solver 框架在零样本组合泛化任务上的表现如何？
• RQ3 分层强化学习在多大程度上能帮助模型发现并正确执行解析表达式？

主要发现

• 该模型在 SCAN 基准的所有组合泛化挑战中均达到 100% 的准确率，显著优于先前方法。
• 该模型能有效泛化到已知组件的未见组合，展现出强大的零样本泛化能力。
• 分层强化学习方法实现了 Composer-Solver 系统的稳定且高效的训练。
• 将符号函数占位符与神经模块结合，实现了可解释且可泛化的推理。
• 该模型通过解析表达式学习成功捕捉了组合性的认知原理。