[論文レビュー] DXNN Platform: The Shedding of Biological Inefficiencies

Gene I. Sher|arXiv (Cornell University)|Nov 28, 2010

Evolutionary Algorithms and Applications参考文献 9被引用数 9

ひとこと要約

本稿では、タプルベースの符号化、二段階の進化プロセス、標的チューニング、およびランダムインテンシティ変異（RIM）を用いて、神経進化における生物学的非効率性を排除する新規なメタ的TWEANNプラットフォームであるDXNNを紹介する。この手法は、ベンチマークタスクにおいてコンパクトで高性能なニューラルネットワークへの収束を高速化し、ロボット工学および人工生命シミュレーションにおいて優れた多様性とスケーラビリティを示している。

ABSTRACT

This paper introduces a novel type of memetic algorithm based Topology and Weight Evolving Artificial Neural Network (TWEANN) system called DX Neural Network (DXNN). DXNN implements a number of interesting features, amongst which is: a simple and database friendly tuple based encoding method, a 2 phase neuroevolutionary approach aimed at removing the need for speciation due to its intrinsic population diversification effects, a new "Targeted Tuning Phase" aimed at dealing with "the curse of dimensionality", and a new Random Intensity Mutation (RIM) method that removes the need for crossover algorithms. The paper will discuss DXNN's architecture, mutation operators, and its built in feature selection method that allows for the evolved systems to expand and incorporate new sensors and actuators. I then compare DXNN to other state of the art TWEANNs on the standard double pole balancing benchmark, and demonstrate its superior ability to evolve highly compact solutions faster than its competitors. Then a set of oblation experiments is performed to demonstrate how each feature of DXNN effects its performance, followed by a set of experiments which demonstrate the platform's ability to create NN populations with exceptionally high diversity profiles. Finally, DXNN is used to evolve artificial robots in a set of two dimensional open-ended food gathering and predator-prey simulations, demonstrating the system's ability to produce ever more complex Neural Networks, and the system's applicability to the domain of robotics, artificial life, and coevolution.

研究の動機と目的

• 従来の神経進化システムに内在する非効率性、特に種分化とクロスオーバーへの依存を是正すること。
• 人工ニューラルネットワークを進化させる際によく見られる高次元探索空間における次元の呪いを軽減すること。
• 組み込みの特徴選択機構により、進化中に新しいセンサーやアクチュエータを動的に追加できるように、ニューラルネットワークの拡張を可能にすること。
• ロボット工学および人工生命の文脈において、コンパクトで多様性に富み、高性能なニューラルネットワークを効率的かつスケーラブルに進化させる、データベースにやさしいフレームワークの開発。

提案手法

• ネットワーク構成の効率的かつデータベースにやさしい保存・取得を可能にする、シンプルなタプルベースの符号化方式を採用する。
• 二段階の神経進化アプローチを用いる：まずネットワークのトポロジーと重みを進化させ、次に解を精錬するための標的チューニング段階を適用する。
• 再結合を必要とせず、効果的な探索を可能にする、ランダムインテンシティ変異（RIM）という変異演算子を導入する。
• 進化中にセンサーやアクチュエータを動的に追加できる、組み込みの特徴選択メカニズムを統合する。
• 二段階プロセスの自然な副産物としての集団の多様性を活用し、多様性の維持に種分化への依存を軽減する。
• 最適化を高影響度パラメータに集中させることで、次元の呪いを緩和する標的チューニング段階を適用する。

実験結果

リサーチクエスチョン

• RQ1 クロスオーバーや種分化を用いず、最先端のTWEANNと比較して、コンパクトで高性能なニューラルネットワークをより速く進化させることができるか？
• RQ2 標的チューニング段階の統合は、高次元探索空間における収束速度と解の品質にどのように影響するか？
• RQ3 RIM変異演算子は、従来のクロスオーバーに基づく手法と比較して、集団の多様性をどれほど維持し、効果的な探索を可能にするか？
• RQ4 DXNNプラットフォームは、進化中に新しいセンサーやアクチュエータを動的に統合しながら、性能を維持できるか？
• RQ5 DXNNは、食料収集や捕食者・被捕食者ダイナミクスのような、複雑でオープンエンドな行動を人工生命およびロボットシミュレーションで効果的に進化させられるか？

主な発見

• DXNNは、二重ポールバランスベンチマークにおいて、競合するTWEANNよりも高速に非常にコンパクトな解を進化させ、優れた収束速度を示した。
• 二段階の進化プロセスにより、非常に高い多様性プロファイルを持つ集団が自然に生成され、明示的な種分化の必要性が低減された。
• アブレーションスタディの結果、RIM、標的チューニング、二段階構造の各要素が、性能向上に顕著な寄与を果たしていることが確認された。
• プラットフォームは、2次元オープンエンドシミュレーションにおいて、食料収集や捕食者・被捕食者相互作用を含む、複雑で適応的な行動を示す人工ロボットを効果的に進化させた。
• タプルベースの符号化により、効率的なデータベース保存・取得が可能となり、大規模な進化実験におけるスケーラビリティと再現性が支えられた。
• 共進化および人工生命の文脈において、時間の経過とともに次第に複雑化するニューラルネットワークを効果的に進化させることで、スケーラビリティとロバストネスを示した。