[논문 리뷰] DeepCoder: Learning to Write Programs

Matej Balog, Alexander L. Gaunt외 3명|arXiv (Cornell University)|2016. 11. 07.

Software Engineering Research인용 수 230

한 줄 요약

DeepCoder 는 입력-출력 예제로부터 프로그램 속성을 예측하기 위해 신경망을 학습하고, 이 예측을 검색 기반 프로그램 합성의 가이드에 활용하여, 기준 대비 상당한 속도향상을 달성하고, 간단한 대회 스타일 문제를 해결합니다.

ABSTRACT

We develop a first line of attack for solving programming competition-style problems from input-output examples using deep learning. The approach is to train a neural network to predict properties of the program that generated the outputs from the inputs. We use the neural network's predictions to augment search techniques from the programming languages community, including enumerative search and an SMT-based solver. Empirically, we show that our approach leads to an order of magnitude speedup over the strong non-augmented baselines and a Recurrent Neural Network approach, and that we are able to solve problems of difficulty comparable to the simplest problems on programming competition websites.

연구 동기 및 목표

• 입출력 예제를 사용하여 머신러닝으로 프로그래밍 대회 스타일 문제를 해결하도록 동기를 부여한다.
• 기존 해법들을 안내하고 프로그램 속성을 유도하도록 학습하는 프레임워크(LIPS)를 제안한다.
• 프로그램 합성을 위한 대규모 감독 학습을 가능하게 하는 DSL과 데이터 생성 파이프라인을 개발한다.
• 비강화 기준선 및 RNN 방식에 비해 상당한 속도향상을 입증한다.

제안 방법

• 단순한 연산과 고차 연산을 모두 포함하는 고수준 데이터 조작 함수 DSL 를 정의한다.
• 훈련을 위한 프로그램, 속성, 입력-출력 예제의 대규모 데이터셋을 생성한다.
• 입출력 예제 집합을 프로그램 속성의 분포로 매핑하도록 신경망을 훈련한다.
• 신경 예측을 탐색 기법(DFS, Sort and add, SMT-based Sketch and λ²)에 통합하여 프로그램 공간의 유망한 부분을 우선순위화한다.
• 속성 존재를 예측하기 위해 음의 교차 엔트로피 손실로 훈련하여 후보 프로그램의 체계적인 순위를 가능하게 한다.

실험 결과

연구 질문

• RQ1 입출력 예제로부터 학습이 DSL 위의 검색을 안내하는 고수준 프로그램 속성을 예측할 수 있는가?
• RQ2 함수 존재 예측이 다양한 해결기에서 검색 기반 프로그램 합성의 효율성을 향상시키는가?
• RQ3 학습 중 보지 못한 서로 다른 길이의 프로그램에 대해 학습된 가이드가 얼마나 잘 일반화되는가?
• RQ4 다양한 인코더/디코더 아키텍처가 프로그램 합성 가이드에 미치는 영향은 무엇인가?

주요 결과

• 신경 가이드는 사전 지식이나 비강화 검색에 의존하는 기준선과 비교하여 여러 탐색 전략 전반에서 큰 속도향상을 가져온다.
• Sort and add 열거 전략은 예측된 속성 주변 확률에 더 많이 의존하며, 일반 DFS보다 더 큰 이익을 얻고 많은 설정에서 가장 큰 이득을 달성한다.
• DeepCoder 는 DSL 범위 내에서 가장 간단한 프로그래밍 대회 문제와 비슷한 난이도의 문제를 해결할 수 있다.
• 인코더-디코더 모델은 학습 길이를 넘어 더 길거나 짧은 프로그램으로 일반화하며, 미스 예측을 보정하기 위한 탐색 절차의 도움을 받는다.
• 제안된 이진 속성 디코더는 간단한 피드포워드 인코더를 사용한 RNN 기반 디코더와 비교하여 학습 및 성능이 견고하다.