[论文解读] Recurrent Relational Networks

Rasmus Palm, Ulrich Paquet+1 more|arXiv (Cornell University)|Nov 21, 2017

Advanced Image and Video Retrieval Techniques参考文献 24被引用 15

一句话总结

本文提出了循环关系网络（Recurrent Relational Network, RRN），一种可微分的、端到端可训练模块，通过在图结构数据的节点间迭代传递消息，实现多步关系推理。该模型在 bAbI 数据集（20/20 项任务）上达到最先进性能，并成功解决 96.6% 的最困难数独谜题，展示了其在复杂、迭代关系推理方面的强大能力。

ABSTRACT

This paper is concerned with learning to solve tasks that require a chain of interdependent steps of relational inference, like answering complex questions about the relationships between objects, or solving puzzles where the smaller elements of a solution mutually constrain each other. We introduce the recurrent relational network, a general purpose module that operates on a graph representation of objects. As a generalization of Santoro et al. [2017]'s relational network, it can augment any neural network model with the capacity to do many-step relational reasoning. We achieve state of the art results on the bAbI textual question-answering dataset with the recurrent relational network, consistently solving 20/20 tasks. As bAbI is not particularly challenging from a relational reasoning point of view, we introduce Pretty-CLEVR, a new diagnostic dataset for relational reasoning. In the Pretty-CLEVR set-up, we can vary the question to control for the number of relational reasoning steps that are required to obtain the answer. Using Pretty-CLEVR, we probe the limitations of multi-layer perceptrons, relational and recurrent relational networks. Finally, we show how recurrent relational networks can learn to solve Sudoku puzzles from supervised training data, a challenging task requiring upwards of 64 steps of relational reasoning. We achieve state-of-the-art results amongst comparable methods by solving 96.6% of the hardest Sudoku puzzles.

研究动机与目标

• 开发一种通用的、可微分模块，能够在结构化数据上执行多步关系推理。
• 解决单步关系网络和前馈模型在处理复杂、相互依赖推理任务时的局限性。
• 在需要迭代推理的挑战性任务（如问答和数独求解）上评估该模型。
• 引入诊断数据集 Pretty-CLEVR，系统性地探测关系任务中所需的推理步数。
• 证明循环消息传递可在无需符号逻辑或手工设计算法的情况下，学习复杂、基于约束的推理。

提出的方法

• RRN 在图上运行，其中节点表示具有可学习向量表示的对象，边表示关系。
• 在每个时间步，节点通过可微分的消息函数从邻居节点聚合消息，并通过循环更新机制更新其隐藏状态。
• 消息函数和节点更新函数通过在每一步都优化的损失函数进行联合训练，以确保收敛性和稳定性。
• 节点特征在每一步的消息函数和更新函数中被引入，增强了表示的稳定性和表达能力。
• 模型通过反向传播进行端到端训练，使其能够在无先验符号约束的情况下学习复杂的关系动态。
• 通过将各类任务视为基于图的推理问题并采用迭代消息传递，该架构可泛化至多种任务。

实验结果

研究问题

• RQ1 可微分的、循环的消息传递模块是否能在需要多步关系推理的任务上超越单步关系网络和前馈模型？
• RQ2 任务所需的推理步数如何影响模型性能？我们能否通过诊断数据集系统性地测量这一影响？
• RQ3 RRN 是否仅通过监督训练即可学会求解高度约束的问题（如数独），而无需符号规则引擎？
• RQ4 与 CommNet 或信念传播等其他神经消息传递模型相比，RRN 在稳定性和推理深度方面表现如何？
• RQ5 RRN 在多大程度上能够学习执行类似人类逻辑推理的迭代、基于约束的推理？

主要发现

• RRN 在 bAbI 文本问答数据集上达到最先进性能，所有 20 项任务均正确求解。
• 该模型成功解决 96.6% 的最困难数独谜题（初始仅 17 个数字），优于现有可比方法。
• 借助新引入的 Pretty-CLEVR 数据集，作者表明多层感知机在超过三步推理后即失效，而 RRN 能够随推理深度增加而有效扩展。
• RRN 在每一步都优化损失时表现出稳定的训练和收敛，这是实现可靠多步推理的关键创新。
• 在消息函数和更新函数中每一步都引入节点特征，显著提升了训练稳定性和性能。
• RRN 无需依赖符号逻辑或手工设计算法，成功学习了复杂、迭代的关系推理。