[论文解读] Learning abstract structure for drawing by efficient motor program induction

Lucas Y Tian, Kevin Ellis+2 more|arXiv (Cornell University)|Aug 8, 2020

Teaching and Learning Programming参考文献 45被引用 15

一句话总结

该论文提出了一种计算模型，通过高效的运动程序归纳，学习抽象的、组合式的绘图程序，实现在少量样本学习后对新图形的快速泛化。该模型发现了可重用的、类似程序的子程序，其特性与人类的抽象化和组合性相似，在受控的绘图任务中展现出人类水平的泛化能力。

ABSTRACT

Humans flexibly solve new problems that differ qualitatively from those they were trained on. This ability to generalize is supported by learned concepts that capture structure common across different problems. Here we develop a naturalistic drawing task to study how humans rapidly acquire structured prior knowledge. The task requires drawing visual objects that share underlying structure, based on a set of composable geometric rules. We show that people spontaneously learn abstract drawing procedures that support generalization, and propose a model of how learners can discover these reusable drawing programs. Trained in the same setting as humans, and constrained to produce efficient motor actions, this model discovers new drawing routines that transfer to test objects and resemble learned features of human sequences. These results suggest that two principles guiding motor program induction in the model - abstraction (general programs that ignore object-specific details) and compositionality (recombining previously learned programs) - are key for explaining how humans learn structured internal representations that guide flexible reasoning and learning.

研究动机与目标

• 探究人类如何快速学习用于绘制新颖抽象图形的结构化内部表征。
• 开发一种计算模型，通过发现可重用的、类似程序的绘图子程序，模拟人类的泛化能力。
• 检验抽象化与组合性——人类学习的两个核心原则——是否可被形式化于神经引导的程序归纳框架中。
• 在少量样本绘图任务中比较人类与模型的行为，以评估所学表征的可迁移性与结构相似性。

提出的方法

• 设计一种自然主义的绘图任务，参与者根据几何规则学习绘制新颖的抽象图形。
• 使用程序归纳方法，结合神经网络引导的搜索，模拟人类学习过程。
• 对运动动作施加效率约束，以偏好紧凑、可重用的程序，类似人类的运动序列。
• 采用概率程序归纳框架，通过先验偏好抽象的、组合式的结构，而非特定对象的细节。
• 在与人类相同的少量样本上训练模型，随后在未见的测试图形上评估泛化性能。
• 采用分层程序表示，支持基本绘图操作（如重复、旋转、平移）的递归组合。

实验结果

研究问题

• RQ1 当人类基于极少示例学习绘制新颖图形时，如何发现抽象的、可重用的绘图程序？
• RQ2 计算模型能否通过高效的运动程序归纳学习到类似的抽象、组合式程序？
• RQ3 该模型所学程序在结构与泛化能力上，与人类所学绘图策略的相似程度如何？
• RQ4 抽象化与组合性在实现新绘图概念的快速、灵活学习中起到何种作用？

主要发现

• 参与者自发采用了抽象的、组合式的绘图策略，且能泛化到新颖图形，表明存在结构化的内部表征。
• 该模型成功发现了可重用的、类似程序的子程序，其特性与人类所学策略高度一致，即使仅在相同少量示例上进行训练。
• 模型在未见测试图形上的泛化性能优异，表明通过抽象的、组合式的程序归纳实现了有效的迁移。
• 模型所学程序在结构上与人类运动序列相似，暗示其与人类认知机制具有一致性。
• 抽象化与组合性至关重要：缺乏这些原则的模型无法有效泛化。
• 该模型在少量样本绘图任务中实现了与人类相当的泛化速度与准确率，优于非组合式模型。