[논문 리뷰] AI Programmer: Autonomously Creating Software Programs Using Genetic Algorithms

Kory Becker, Justin Gottschlich|arXiv (Cornell University)|2017. 09. 17.

Evolutionary Algorithms and Applications참고 문헌 26인용 수 20

한 줄 요약

이 논문은 뇌포크(Brainfuck)라 불리는 최소한의 고전적 프로그래밍 언어를 사용하여 유전 알고리즘을 적용함으로써 자율적으로 실행 가능한 프로그램을 생성하고 진화시키는 AI 기반 시스템, AI 프로그래머를 제안한다. 각 프로그램을 8개의 간단한 명령어로 이루어진 시퀀스로 간주함으로써, 이 시스템은 산수, 문자열 조작, 제어 흐름 등 다양한 작업에 대해 해법을 진화시킨다. 이는 인간 간섭 없이도 자기 수정 및 자기 향상 기능을 가진 코드를 합성할 수 있음을 보여주며, 진화 계산을 통해 완전한 프로그램 실행을 달성한다.

ABSTRACT

In this paper, we present the first-of-its-kind machine learning (ML) system, called AI Programmer, that can automatically generate full software programs requiring only minimal human guidance. At its core, AI Programmer uses genetic algorithms (GA) coupled with a tightly constrained programming language that minimizes the overhead of its ML search space. Part of AI Programmer's novelty stems from (i) its unique system design, including an embedded, hand-crafted interpreter for efficiency and security and (ii) its augmentation of GAs to include instruction-gene randomization bindings and programming language-specific genome construction and elimination techniques. We provide a detailed examination of AI Programmer's system design, several examples detailing how the system works, and experimental data demonstrating its software generation capabilities and performance using only mainstream CPUs.

연구 동기 및 목표

• 인공지능이 인간 간섭 없이 자율적으로 소프트웨어 프로그램을 생성하고 향상시킬 수 있는지 탐색하기 위해.
• 복잡하고 인간이 읽기 쉬운 프로그래밍 언어에서의 프로그램 합성 문제를 해결하기 위해 최소한의 튜링 완전 언어를 사용함으로써.
• 유전 알고리즘이 작은 명령어 집합에서 완전하고 실행 가능한 프로그램을 진화시킬 수 있음을 보여주기 위해.
• 제한된 프로그래밍 환경에서 진화 계산을 통해 자기 수정 및 자기 향상 기능을 가진 코드의 실현 가능성을 검증하기 위해.
• 신경망 기반 또는 AST 기반 프로그램 합성의 새로운 대안을 제공하기 위해, 저수준 프로그래밍 명령어를 직접 다루는 방식으로.

제안 방법

• 시스템은 뇌포크라는 8개의 명령어만을 가진 튜링 완전 언어로 작성된 프로그램의 집단을 진화시키기 위해 유전 알고리즘을 사용한다.
• 각 프로그램은 명령어의 선형 시퀀스로 표현되며, 돌연변이 및 교배와 같은 유전적 연산을 통해 직접 조작 가능하다.
• 적합도 함수는 프로그램의 동작에 기반하여 정의된다: 성공적인 프로그램은 주어진 작업(예: 텍스트 출력, 합계 계산)을 정확히 해결하고 올바르게 종료해야 한다.
• 진화 과정은 올바른 출력을 생성하는 프로그램을 선택함으로써 반복적으로 향상되며, 명령어 시퀀스에 대한 유전적 연산을 통해 자기 수정이 발생한다.
• 각 진화된 프로그램은 뇌포크 인터프리터를 통해 실행되어 정확도가 평가되며, 그 결과는 적합도 평가에 피드백된다.
• 추상 구문 트리나 신경망을 피하기 위해, 시스템은 실제로 실행 가능한 코드를 직접 진화시키고 테스트한다.

실험 결과

연구 질문

• RQ1 유전 알고리즘이 뇌포크와 같은 최소한의 프로그래밍 언어에서 자율적으로 작동하는 프로그램을 생성할 수 있는가?
• RQ2 진화 계산을 통해 자기 수정 및 자기 향상 기능을 가진 코드를 얼마나 잘 합성할 수 있는가?
• RQ3 인간이 작성한 템플릿 없이도 다양한 계산 작업을 위한 완전하고 실행 가능한 프로그램을 진화시킬 수 있는가?
• RQ4 저수준 명령어를 직접 조작하는 방식이 타 프로그램 합성 방법에 비해 정확도와 해법의 다양성 측면에서 어떻게 비교되는가?
• RQ5 소규모 명령어 집합만으로 조건문, 반복문, 입출력을 처리할 수 있는 프로그램을 시스템이 진화시킬 수 있는가?

주요 결과

• 유전 알고리즘은 텍스트 출력, 산수 계산, 사용자 입력 처리, 루프 및 조건문 관리 등 다양한 작업에 대해 완전하고 정확한 프로그램을 성공적으로 진화시켰다.
• 시스템은 뇌포크의 8개 기본 명령어만을 사용하여 자기 수정 및 자기 향상 기능을 가진 프로그램을 자율적으로 생성할 수 있음을 입증했다.
• 다양한 실행 런에 걸쳐 정확한 프로그램이 일관되게 생성되었으며, 이는 진화적 접근의 강건성을 보여준다.
• 추상 구문 트리나 신경망 예측과 같은 중간 표현에 의존하지 않고도 완전한 프로그램 실행을 달성했다.
• 간단한 진화적 연산을 통해 복잡한 제어 구조(예: 조건문 및 루프)를 가진 프로그램을 효과적으로 합성할 수 있었다.
• 결과적으로 진화 계산이 신경망 또는 기호 기반 프로그램 합성의 타당한 대안이 될 수 있음을 확인했다.