[论文解读] Pointer Networks

Oriol Vinyals, Meire Fortunato+1 more|arXiv (Cornell University)|Jun 9, 2015

Machine Learning and Data Classification被引用 134

一句话总结

本文提出指针网络（Ptr-Nets），一种利用注意力机制动态从输入序列中选择输出标记的神经架构，支持可变大小的输出词典。该模型通过预测输入点的索引，学习求解组合优化问题（如凸包、Delaunay三角剖分和TSP），在测试长度上展现出强大的泛化能力，并在小规模TSP任务中优于基线模型。

ABSTRACT

We introduce a new neural architecture to learn the conditional probability of an output sequence with elements that are discrete tokens corresponding to positions in an input sequence. Such problems cannot be trivially addressed by existent approaches such as sequence-to-sequence and Neural Turing Machines, because the number of target classes in each step of the output depends on the length of the input, which is variable. Problems such as sorting variable sized sequences, and various combinatorial optimization problems belong to this class. Our model solves the problem of variable size output dictionaries using a recently proposed mechanism of neural attention. It differs from the previous attention attempts in that, instead of using attention to blend hidden units of an encoder to a context vector at each decoder step, it uses attention as a pointer to select a member of the input sequence as the output. We call this architecture a Pointer Net (Ptr-Net). We show Ptr-Nets can be used to learn approximate solutions to three challenging geometric problems -- finding planar convex hulls, computing Delaunay triangulations, and the planar Travelling Salesman Problem -- using training examples alone. Ptr-Nets not only improve over sequence-to-sequence with input attention, but also allow us to generalize to variable size output dictionaries. We show that the learnt models generalize beyond the maximum lengths they were trained on. We hope our results on these tasks will encourage a broader exploration of neural learning for discrete problems.

研究动机与目标

• 为解决序列到序列模型在处理可变大小输出词典时的局限性，即输出类别数量依赖于输入长度。
• 开发一种能够学习离散组合序列生成任务的神经架构，其中输出为输入序列中的索引。
• 证明数据驱动的神经方法可以学习NP难几何问题（如凸包、Delaunay三角剖分和对称TSP）的近似解。
• 展示模型在训练时未见的输入长度上具有泛化能力，尤其针对具有结构化输出序列的问题。
• 证明注意力机制可被重新用作对输入元素的‘指针’，实现无需固定输出词汇表的端到端学习。

提出的方法

• 该模型使用编码器RNN（LSTM）将输入序列编码为上下文向量，随后由解码器RNN利用该向量进行生成。
• 在每个解码步骤中，基于内容的注意力机制在输入序列位置上计算softmax分布，有效充当指针以选择下一个输出标记。
• 输出为对应于输入序列位置的索引序列，而非固定类别的输出，从而实现可变大小的输出词典。
• 通过随机梯度下降最大化真实输出序列的对数似然，实现端到端训练。
• 在TSP任务的推理阶段，采用带有效性约束的束搜索，以防止出现重复或遗漏城市等无效路径。
• 该架构应用于三个几何问题：平面凸包、Delaunay三角剖分和对称TSP，训练数据通过精确算法生成的合成数据。

实验结果

研究问题

• RQ1 神经网络能否在不依赖固定输出词汇表的情况下，从输入序列中学习生成索引序列？
• RQ2 此类模型能否在训练时未见的更长输入序列上泛化，尤其针对组合问题？
• RQ3 纯粹基于数据驱动的方法能否学习到TSP等NP难问题的竞争力近似解？
• RQ4 将注意力机制用作对输入位置的指针，是否优于标准序列到序列模型在可变词典任务中的注意力机制？
• RQ5 该模型在仅依赖训练样本的情况下，能在多大程度上学习到复杂的几何关系（如凸包和Delaunay三角剖分）？

主要发现

• Ptr-Net在输入长度n≤50的凸包预测任务中达到100%准确率，泛化能力超过训练长度n=20。
• 在Delaunay三角剖分任务中，模型在n=50输入下达到52.8%的三角形覆盖率，尽管未完全正确，但展现出有意义的泛化能力。
• 在TSP任务中，模型在n≤20的最优数据上进行训练后，泛化到n=25和n=30时，路径长度仅比最优值低1.5%，但在n=40和n=50时性能下降。
• 当在次优算法数据（如A1）上进行训练时，Ptr-Net的表现优于原始算法，表明其能从数据中学习到更优的启发式策略。
• 在固定长度问题上，该模型显著优于标准序列到序列注意力模型，证实其在受限设置下的有效性。
• 该架构在训练长度之外具有泛化能力，尤其在算法复杂度较低的问题（如O(n log n)）上表现良好，但在大规模TSP等高复杂度问题上表现吃力。