[論文レビュー] Learning Fitness Functions for Genetic Algorithms

Shantanu Mandal, Todd A. Anderson+4 more|arXiv (Cornell University)|Aug 22, 2019

Evolutionary Algorithms and Applications参考文献 23被引用数 4

ひとこと要約

本稿では、自動プログラム合成における遺伝的アルゴリズムのためのフィットネス関数をニューラルネットワークを用いて自動的に学習する新規フレームワークを提案する。このアプローチにより、プログラム発見の効率が顕著に向上する。軽量な探索ヒューリスティクスを統合することで、最先端の手法と比較してより少ない世代数でより多くの正しく動作するプログラムを発見できる。

ABSTRACT

The problem of automatic software generation is known as Machine Programming. In this work, we propose a framework based on genetic algorithms to solve this problem. Although genetic algorithms have been used successfully for many problems, one criticism is that hand-crafting its fitness function, the test that aims to effectively guide its evolution, can be notably challenging. Our framework presents a novel approach to learn the fitness function using neural networks to predict values of ideal fitness functions. We also augment the evolutionary process with a minimally intrusive search heuristic. This heuristic improves the framework's ability to discover correct programs from ones that are approximately correct and does so with negligible computational overhead. We compare our approach with several state-of-the-art program synthesis methods and demonstrate that it finds more correct programs with fewer candidate program generations.

研究の動機と目的

• 遺伝的アルゴリズムに基づくプログラム合成における、効果的なフィットネス関数を手動で設計する課題に対処すること。
• ニューラルネットワークを用いてフィットネス関数を自動的に学習することで、手作業によるフィットネス関数の設計負荷を軽減すること。
• 近似的に正しいプログラムの精錬を向上させる、最小限の干渉で済む探索ヒューリスティクスを導入することで、進化的な探索の効率を向上させること。
• 正しさと生成効率の両面で、既存のプログラム合成手法を上回ること。

提案手法

• 候補となるプログラムの理想的なフィットネス値を予測するためのニューラルネットワークを学習し、手作業で設計されたフィットネス関数に置き換える。
• 予測されたフィットネス値を遺伝的アルゴリズムの進化における主なガイドラインとして使用する。
• 解のフロンティア付近のプログラムを段階的に改善する軽量な探索ヒューリスティクスを導入する。
• 進化的プロセスへの計算コストの増加が最小限に抑えられるように、ヒューリスティクスを最小限の干渉で適用する。
• ニューラルネットワークによるフィットネス予測とヒューリスティクスを統合し、正しいプログラムへの収束を促進する。
• 制御された条件下で、最先端のプログラム合成手法とフレームワークを比較評価する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、自動ソフトウェア生成における遺伝的アルゴリズムが正しいプログラムへ導くフィットネス関数を効果的に学習できるか？
• RQ2 最小限の干渉で済む探索ヒューリスティクスは、進化的プロセスにおける正しいプログラムの発見をどのように向上させるか？
• RQ3 提案されたフレームワークは、既存の手法と比較して、正しい解決策を発見するために必要な候補プログラムの生成回数をどの程度削減できるか？
• RQ4 学習されたフィットネス関数と探索ヒューリスティクスの統合は、プログラム合成における正答率の向上に寄与するか？

主な発見

• 同じ数の候補プログラム生成回数において、最先端の手法と比較して本フレームワークはより多くの正しく動作するプログラムを発見する。
• ニューラルネットワークを用いたフィットネス関数の学習により、手作業によるフィットネス関数設計の必要性が低下する。
• 統合された探索ヒューリスティクスは、計算コストをほとんど増加させない範囲で、近似的に正しいプログラムの精錬を向上させる。
• 本フレームワークは、より少ない生成回数で高い合成成功率を達成しており、収束が速いことが示された。
• 多様な合成タスクにおいて、本アプローチは優れたスケーラビリティとロバストネスを示し、正しいプログラムの発見に優れている。