[論文レビュー] Positional Cartesian Genetic Programming

Dennis G. Wilson, Julian F. Miller+2 more|arXiv (Cornell University)|Oct 9, 2018

Evolutionary Algorithms and Applications参考文献 17被引用数 6

ひとこと要約

本稿では、ノード位置を浮動小数点表現の遺伝子で進化させることで、グラフベースの交叉や変異といった高度な遺伝的演算子を可能にする、新しいCGPの変種である位置的カルテシアン遺伝的プログラミング（PCGP）を紹介する。PCGPは、分類・回帰・強化学習のベンチマーク問題において、標準的なCGPを上回る性能を示し、進化的戦略の多様なハイパーパrameterサーチを通じて最適な設定を特定する。

ABSTRACT

Cartesian Genetic Programming (CGP) has many modifications across a variety of implementations, such as recursive connections and node weights. Alternative genetic operators have also been proposed for CGP, but have not been fully studied. In this work, we present a new form of genetic programming based on a floating point representation. In this new form of CGP, called Positional CGP, node positions are evolved. This allows for the evaluation of many different genetic operators while allowing for previous CGP improvements like recurrency. Using nine benchmark problems from three different classes, we evaluate the optimal parameters for CGP and PCGP, including novel genetic operators.

研究の動機と目的

• ノード位置を浮動小数点表現の遺伝子で進化させる新しい形のカルテシアン遺伝的プログラミング（CGP）の開発。
• 位置的進化によって可能になる新規な遺伝的演算子（サブグラフ交叉、出力グラフ交叉、混合ノード変異など）の評価。
• $1+\lambda$ EAとGAを用いて、分類・回帰・強化学習の多様な問題クラスにおいて、標準CGPおよびPCGPの最適ハイパーパrameterを同定すること。
• ノード重み、再帰性、エリート主義といった強化手法が、分類・回帰・強化学習のタスクにおいて、標準CGPと比較してどのように性能に影響を与えるかの比較。
• GAベースの進化において、特にこれまでの研究で十分に検討されていなかった分野において、CGPの設定に関する包括的なガイドラインの提供。

提案手法

• ノード位置、接続遺伝子、関数インデックス、パラメータを[0.0, 1.0]の連続的浮動小数点値としてCGPの遺伝子表現を定義する。
• 「スナッピング」を用いて、浮動小数点の接続座標を最も近い実際のノードにマッピングし、柔軟で動的な接続性を実現する。
• ノード位置を遺伝子の一部として進化させることで、位置的CGP（PCGP）を導入し、新たな変異および交叉戦略を可能にする。
• 9つのベンチマーク問題において、PCGPおよび標準CGPを$1+\lambda$進化的アルゴリズムと世代的GAを用いて進化させる。
• 再帰的接続（パラメータ$r$を介して）、ノード重み、アクティブな変異を含む強化手法を導入し、これらをチューナブルなハイパーパrameterとして扱う。
• 各問題クラスおよび進化的戦略ごとに、20の最良設定を対象にパラメータサーチを実施し、最適な設定を同定する。

実験結果

リサーチクエスチョン

• RQ1 浮動小数点表現を用いてCGPにおけるノード位置を進化させることで、より効果的な遺伝的演算子が可能になり、ベンチマーク問題における性能が向上するか？
• RQ2 分類・回帰・強化学習タスクにおいて、PCGPにおいて最も効果的な遺伝的演算子は、遺伝子変異、サブグラフ交叉、出力グラフ交叉のうちどれか？
• RQ3 ノード重み、再帰性（$r$）、エリート主義といった強化手法は、標準CGPと比較してPCGPの性能にどのように影響を与えるか？
• RQ4 $1+\lambda$ EAおよびGAをPCGPおよび標準CGPに適用する際の最適ハイパーパramータ設定は何か？
• RQ5 サブグラフ交叉や出力グラフ交叉といったグラフベースの操作は、特にモジュラーなドメイン（強化学習など）において、PCGPの進化において実用的かつ効果的か？

主な発見

• PCGPは、特に出力グラフ交叉と混合ノード変異を用いる場合、強化学習問題において顕著に性能が向上する。
• $1+\lambda$ EAおよびGAの両設定において、出力遺伝子に対して高い変異率を設定した遺伝子変異が、他の変異戦略を上回る性能を示す。
• ノード重みは強化学習において非常に有益であるが、分類および回帰タスクでは有害であることが判明し、問題に依存する有用性が示された。
• GA設定では、分類タスクではサブグラフ交叉と混合部分木変異が好ましく、回帰タスクではランダムノード交叉と遺伝子変異が支配的である。
• エリート主義レベルが0.1〜0.5の範囲が、強化学習および分類タスクにおいて最も効果的であり、高いエリート主義はPCGPにおける収束を改善する。
• 浮動小数点の位置的進化により、実用的かつ効果的なグラフベースの遺伝的演算子が可能になることが示され、適応的で自己最適化可能なCGPシステムへの道筋が示唆された。