[論文レビュー] AI Programmer: Autonomously Creating Software Programs Using Genetic Algorithms

Kory Becker, Justin Gottschlich|arXiv (Cornell University)|Sep 17, 2017

Evolutionary Algorithms and Applications参考文献 26被引用数 20

ひとこと要約

この論文では、最小限の難解プログラミング言語Brainfuckに適用された遺伝的アルゴリズムを用いて、実行可能なプログラムを自律的かつ進化的に生成するAI駆動型システム、AIプログラマーを提示している。各プログラムを8つの単純な命令のシーケンスとして扱うことにより、算術、文字列操作、制御構造などの多様なタスクに対する解決策を進化させ、自己修正・自己向上可能なコードが人間の干渉なしに合成可能であることを示している。進化計算により完全なプログラム実行が達成された。

ABSTRACT

In this paper, we present the first-of-its-kind machine learning (ML) system, called AI Programmer, that can automatically generate full software programs requiring only minimal human guidance. At its core, AI Programmer uses genetic algorithms (GA) coupled with a tightly constrained programming language that minimizes the overhead of its ML search space. Part of AI Programmer's novelty stems from (i) its unique system design, including an embedded, hand-crafted interpreter for efficiency and security and (ii) its augmentation of GAs to include instruction-gene randomization bindings and programming language-specific genome construction and elimination techniques. We provide a detailed examination of AI Programmer's system design, several examples detailing how the system works, and experimental data demonstrating its software generation capabilities and performance using only mainstream CPUs.

研究の動機と目的

• 人工知能が人間の干渉なしに自律的にソフトウェアプログラムを生成・改善できるかどうかを調査すること。
• 複雑で人間が読みやすいプログラミング言語におけるプログラム合成の課題に、最小限でチューリング完全な言語を用いて対処すること。
• 遺伝的アルゴリズムが、小さな命令セットから完全で実行可能なプログラムを進化させられることを示すこと。
• 制約付きのプログラミング環境において、進化計算を用いて自己修正・自己向上可能なコードの実現可能性を検証すること。
• ニューラルネットワークベースやASTベースのプログラム合成とは異なり、低レベルのプログラミング命令を直接操作することで、新たな代替手法を提供すること。

提案手法

• システムは、Brainfuck（8つの命令のみを有するチューリング完全言語）に書かれたプログラムの集団を進化させる遺伝的アルゴリズムを用いる。
• 各プログラムは、突然変異やクローニングといった遺伝的操作による直接的変更が可能な、命令の線形シーケンスとして表現される。
• フィットネス関数はプログラムの振る舞いに基づいて定義され、成功したプログラムは、指定されたタスク（例：文字列の出力、合計の計算）を正しく実行し、正しく終了しなければならない。
• 進化プロセスは、正しい出力を生成するプログラムを選別することで繰り返し改善され、命令シーケンスに対する遺伝的操作を通じて自己修正が行われる。
• Brainfuckインタプリタが各進化したプログラムを実行し、正しさを評価し、その結果をフィットネス評価にフィードバックする。
• 抽象構文木やニューラルネットワークを避ける代わりに、実際に実行可能なコードを直接進化・テストする。

実験結果

リサーチクエスチョン

• RQ1 遺伝的アルゴリズムは、Brainfuckのような最小限のプログラミング言語において、自律的に動作するプログラムを生成できるか？
• RQ2 自己修正・自己向上可能なコードは、進化計算によってどの程度合成可能か？
• RQ3 人間がコーディングしたテンプレートなしに、多様な計算タスクのための完全で実行可能なプログラムを進化させることは可能か？
• RQ4 低レベル命令の直接的操作は、他のプログラム合成手法と比較して、正しさや解決策の多様性においてどのように異なるか？
• RQ5 8つの基本命令のみを用いて、条件分岐、ループ、I/Oを処理するプログラムをシステムが進化させられるか？

主な発見

• 遺伝的アルゴリズムは、テキストの出力、算術演算、ユーザー入力の処理、ループや条件分岐の管理といった、多様なタスクに対して完全で正しいプログラムを成功裏に進化させた。
• システムは、Brainfuckの8つの基本命令のみを用いて、自己修正・自己向上可能なプログラムを自律的に生成できることを示した。
• 複数回の実行においても、正しいプログラムが一貫して生成されたことから、進化的手法の堅牢性が裏付けられた。
• 抽象構文木やニューラルネットワーク予測のような中間表現に依存せずに、完全なプログラム実行が達成された。
• 単純な進化操作から、条件分岐やループを含む複雑な制御構造を持つプログラムの合成が、この手法によって有効に実現された。
• 結果から、進化計算が、実行可能なコードを生成するためのニューラル的または記号的プログラム合成の代替手段として実用的であることが確認された。