[논문 리뷰] Learning abstract structure for drawing by efficient motor program induction

Lucas Y Tian, Kevin Ellis외 2명|arXiv (Cornell University)|2020. 08. 08.

Teaching and Learning Programming참고 문헌 45인용 수 15

한 줄 요약

이 논문은 소수의 예시로 학습한 후 새로운 도형으로의 일반화를 빠르게 가능하게 하는 효율적인 운동 프로그램 유도를 통해 추상적이고 구성적인 그림 프로그램을 학습하는 계산 모델을 제안한다. 이 모델은 인간과 유사한 추상화와 구성성의 특성을 반영한 재사용 가능한 프로그램 형태의 서브루틴을 발견하며, 통제된 그림 그리기 작업에서 인간 수준의 일반화 능력을 보여준다.

ABSTRACT

Humans flexibly solve new problems that differ qualitatively from those they were trained on. This ability to generalize is supported by learned concepts that capture structure common across different problems. Here we develop a naturalistic drawing task to study how humans rapidly acquire structured prior knowledge. The task requires drawing visual objects that share underlying structure, based on a set of composable geometric rules. We show that people spontaneously learn abstract drawing procedures that support generalization, and propose a model of how learners can discover these reusable drawing programs. Trained in the same setting as humans, and constrained to produce efficient motor actions, this model discovers new drawing routines that transfer to test objects and resemble learned features of human sequences. These results suggest that two principles guiding motor program induction in the model - abstraction (general programs that ignore object-specific details) and compositionality (recombining previously learned programs) - are key for explaining how humans learn structured internal representations that guide flexible reasoning and learning.

연구 동기 및 목표

• 사람들이 소수의 예시에서 새로운 추상적 도형을 빠르게 학습할 때 구조적인 내부 표현을 어떻게 발견하는지 조사하는 것.
• 재사용 가능한 프로그램 형태의 그림 서브루틴을 발견함으로써 인간과 유사한 일반화를 모방하는 계산 모델을 개발하는 것.
• 추상화와 구성성 — 인간 학습의 핵심 원리들 — 이 신경망 유도 프로그램 유도 프레임워크 안에서 형식화될 수 있는지 테스트하는 것.
• 소수의 예시를 통한 그림 그리기 작업에서 인간과 모델의 행동을 비교하여 학습된 표현의 이동 가능성과 구조적 유사성을 평가하는 것.

제안 방법

• 참가자가 기하학적 규칙에 기반해 새로운 추상적 도형을 그리는 자연스러운 그림 그리기 작업을 설계한다.
• 인간 학습을 모델링하기 위해 가능한 구성적 프로그램에 대한 신경망 유도 검색을 사용한 프로그램 유도를 수행한다.
• 운동 행동에 효율성 제약 조건을 적용하여 인간의 운동 시퀀스를 닮은 간결하고 재사용 가능한 프로그램을 선호한다.
• 추상적이고 구성적인 구조를 객체 특정 세부 정보보다 우선시하는 사전 확률을 갖는 확률적 프로그램 유도 프레임워크를 사용한다.
• 인간이 사용한 동일한 소수의 예시로 모델을 훈련한 후, 새로운 테스트 도형으로의 일반화 성능을 평가한다.
• 기본 그림 동작(예: 반복, 회전, 이동)의 재귀적 조합을 지원하는 계층적 프로그램 표현 방식을 활용한다.

실험 결과

연구 질문

• RQ1 소수의 예시에서 새로운 도형을 그리는 데 학습할 때 사람들은 어떻게 추상적이고 재사용 가능한 그림 절차를 발견하는가?
• RQ2 효율적인 운동 프로그램 유도를 통해 계산 모델이 유사한 추상적이고 구성적인 프로그램을 학습할 수 있는가?
• RQ3 모델이 학습한 프로그램이 인간이 학습한 그림 전략과 얼마나 유사한 구조적 특성과 일반화 능력을 보이는가?
• RQ4 추상화와 구성성이 새로운 그림 개념을 유연하고 신속하게 학습하는 데 어떤 역할을 하는가?

주요 결과

• 참가자들은 새로운 도형으로의 일반화를 가능하게 하는 구조적인 내부 표현을 나타내는 추상적이고 구성적인 그림 전략을 자발적으로 채택했다.
• 모델은 동일한 소수의 예시로 훈련된 후에도 인간이 학습한 전략과 유사한 재사용 가능한 프로그램 형태의 서브루틴을 성공적으로 발견했다.
• 모델의 일반화 성능은 새로운 테스트 도형에서 높았으며, 추상적이고 구성적인 프로그램 유도를 통한 효과적인 이동을 보여주었다.
• 모델이 학습한 프로그램은 인간의 운동 시퀀스와 구조적으로 유사했으며, 인간의 인지 메커니즘과의 일치를 시사했다.
• 추상화와 구성성이 핵심이었다: 이러한 원칙을 포함하지 않은 모델는 효과적인 일반화를 이루지 못했다.
• 모델는 소수의 예시에서 인간 수준의 일반화 속도와 정확도를 달성했으며, 비구성적 대안들보다 뛰어난 성능을 보였다.