[論文レビュー] Development and Evolution of Neural Networks in an Artificial Chemistry

Jens C. Astor, Christoph Adami|arXiv (Cornell University)|Jul 17, 1998

Evolutionary Algorithms and Applications参考文献 8被引用数 6

ひとこと要約

本論文は、遺伝的指令と局所的基質ダイナミクスに基づいてニューロンが自律的かつ発達的に成長・分化する人工化学フレームワークを用いて、分散型で発達的インスピレーションを受けて設計された人工ニューラルネットワーク（ANN）のモデルを提示する。著者らは、ウェブベースの分散型遺伝的アルゴリズムを通じて、機能的ネットワーク（古典的条件付けを実行するものも含む）の出現を示し、合成ニューラルシステムにおける自己組織化と進化可能性の実現を示している。

ABSTRACT

We present a model of decentralized growth for Artificial Neural Networks (ANNs) inspired by the development and the physiology of real nervous systems. In this model, each individual artificial neuron is an autonomous unit whose behavior is determined only by the genetic information it harbors and local concentrations of substrates modeled by a simple artificial chemistry. Gene expression is manifested as axon and dendrite growth, cell division and differentiation, substrate production and cell stimulation. We demonstrate the model's power with a hand-written genome that leads to the growth of a simple network which performs classical conditioning. To evolve more complex structures, we implemented a platform-independent, asynchronous, distributed Genetic Algorithm (GA) that allows users to participate in evolutionary experiments via the World Wide Web.

研究の動機と目的

• 生物学的神経系を模倣した、分散型で発達的ガイドラインに従う人工ニューラルネットワークの成長をモデル化すること。
• 遺伝情報と局所的な化学的相互作用が、機能的ニューロン構造の自己組織化をどのように駆動するかを調査すること。
• プラットフォームに依存しないウェブベースの分散型遺伝的アルゴリズムを通じて、ニューラルネットワークアーキテクチャの進化的探索を可能にすること。
• 単純な発達ルールとゲノムにエンコードされた指令から、複雑で機能的なニューラルネットワークがどのように出現するかを示すこと。

提案手法

• 各人工ニューロンは、軸索／樹状突起の成長、細胞分裂、分化、基質生産の遺伝子発現ルールをエンコードするゲノムによって支配される自律的エージェントである。
• ニューロンの行動は、定義された反応キネティクスを有する最小限の人工化学系によってモデル化された局所的基質濃度によって制御される。
• 遺伝子発現は動的プロセスとして実装される：基質濃度に応じた軸索の延長、樹状突起の形成、細胞分裂、刺激反応。
• ウェブ上で分散型で非同期に実行される遺伝的アルゴリズムにより、ユーザーがゲノムの送信と評価を通じて進化実験に貢献できる。
• システムは、古典的条件付けを実行できる単純なニューラルネットワークの発達を誘導する手作業でコーディングされたゲノムを用いる。
• ネットワークの所定のタスクにおける性能に基づいたフィットネス評価によって進化が駆動され、世代を経てゲノムに選択と突然変異が適用される。

実験結果

リサーチクエスチョン

• RQ1 人工ニューラルネットワークは、分散型で発達的ガイドラインに従うプロセスを通じて、機能的アーキテクチャに自己組織化できるか？
• RQ2 人工化学における遺伝情報と局所的化学的相互作用は、どのようにして複雑なニューロン構造の出現を駆動するか？
• RQ3 分散型でウェブベースの遺伝的アルゴリズムは、機能的ニューラルネットワークを効果的に進化させることができるか？
• RQ4 単純で手作業でコーディングされたゲノムは、古典的条件付けを実行できるネットワークの発達を導けるか？
• RQ5 分散型で局所的な制御が、強靭で進化可能なニューラルネットワーク発達をどのように可能にするか？

主な発見

• 手作業でコーディングされたゲノムを用いて、局所的ルールと人工化学ダイナミクスのみで、古典的条件付けを実行可能な機能的ニューラルネットワークが出現した。
• システムは、遺伝指令に従う自律的かつ分散型の成長プロセスを通じて、ニューロン構造の自己組織化を成功裏に実証した。
• 分散型遺伝的アルゴリズムにより、スケーラブルでプラットフォームに依存しないニューラルネットワーク発達の進化的実験が可能になった。
• 進化的な探索により、世代を経て次第に複雑で機能的なニューラルアーキテクチャが生成された。
• モデルは、中央集権的制御なしに、単純な発達ルールと局所的相互作用からも、複雑なニューロン機能が生じ得ることを示した。
• 人工化学とニューラル発達・進化の統合により、合成系における出現的計算の研究に耐性のあるフレームワークが提供された。