[論文レビュー] How Evolution Learns to Generalise: Principles of under-fitting, over-fitting and induction in the evolution of developmental organisation

Kostas Kouvaris, Jeff Clune+3 more|arXiv (Cornell University)|Aug 27, 2015

Evolutionary Algorithms and Applications参考文献 44被引用数 14

ひとこと要約

本稿では、自然選択が過去の環境条件への過剰適合を避けることで、未知の環境へ一般化する発生的組織の進化を提案している。これは機械学習における一般化と類似している。選択的利点と発生的コストに基づく適応度を用いたレギュラトリーネットワークモデルを用い、L1およびL2正則化項のような正則化手法が、未知の環境にすばやく適応できる一般化可能な表現型分布の進化を促進することを示している。

ABSTRACT

One of the most intriguing questions in evolution is how organisms exhibit suitable phenotypic variation to rapidly adapt in novel selective environments which is crucial for evolvability. Recent work showed that when selective environments vary in a systematic manner, it is possible that development can constrain the phenotypic space in regions that are evolutionarily more advantageous. Yet, the underlying mechanism that enables the spontaneous emergence of such adaptive developmental constraints is poorly understood. How can natural selection, given its myopic and conservative nature, favour developmental organisations that facilitate adaptive evolution in future previously unseen environments? Such capacity suggests a form of extit{foresight} facilitated by the ability of evolution to accumulate and exploit information not only about the particular phenotypes selected in the past, but regularities in the environment that are also relevant to future environments. Here we argue that the ability of evolution to discover such regularities is analogous to the ability of learning systems to generalise from past experience. Conversely, the canalisation of evolved developmental processes to past selective environments and failure of natural selection to enhance evolvability in future selective environments is directly analogous to the problem of over-fitting and failure to generalise in machine learning. We show that this analogy arises from an underlying mechanistic equivalence by showing that conditions corresponding to those that alleviate over-fitting in machine learning enhance the evolution of generalised developmental organisations under natural selection. This equivalence provides access to a well-developed theoretical framework that enables us to characterise the conditions where natural selection will find general rather than particular solutions to environmental conditions.

研究の動機と目的

• 自然選択が、その短視眼的かつ保守的な性質にもかかわらず、将来の未知の環境において適応能力を高める発生的構造をどのように選択するかを理解すること。
• 発生的システムが複数の選択的環境に一般化する表現型変異を進化させる条件を調査すること。
• 過去の環境への過剰適合を防ぎ、広く有用な表現型的解決策の発見を促進するメカニズムを同定すること。
• 正則化を統一的原理として用いて、機械学習における過剰適合と進化における適応不能な発生的シナリオの間の機構的同等性を確立すること。

提案手法

• N個の遺伝子を有するレギュラトリーネットワークをモデル化し、胚の表現型を[-1,1]^N内の一様ランダムベクトルとして生成し、固定された発生的プロセスを経て成体表現型へと発生させる。
• 適応度を f_S(P_a) = b - λc として定義する。ここでbは、成体表現型P_aとターゲット表現型Sとの内積に基づく選択的利点であり、cはレギュレーター係数に基づくコスト項である。
• L1ノルム（|B|_1）およびL2ノルム（|B|_2^2）の2種類のコスト関数を用い、強いまたは多数の結合をペナルティ化することで、機械学習における正則化を模倣する。
• 5000個のランダムに抽出された胚の表現型を用いて、クラス分類とカウント（CC）法を実証的に適用し、ターゲットパターンへの近接度に応じて表現型分布を分類する。
• サンプリングバイアスを低減し、遺伝的空間を均一にカバーするため、低不規則性のソボル系列を用いる。
• 進化した表現型分布と過去の環境またはすべての潜在的ターゲット表現型の期待分布との間のカイ二乗誤差を用いて、一般化性能を定量化する。

実験結果

リサーチクエスチョン

• RQ1 自然選択が、過去に経験のない未知の環境へ一般化する発生的組織を進化させる条件は何か？
• RQ2 レギュラトリーネットワークの重みに対する正則化（L1/L2）が、一般化可能な表現型分布の進化に与える影響は何か？
• RQ3 過去の環境への発生的シナリオ化が、将来の適応能力をどれほど阻害するか、そしてその阻害をどのように緩和できるか？
• RQ4 シミュレーションを通じて、機械学習における過剰適合と進化における適応不能な発生的制約の類似性を形式的かつ検証可能に定式化できるか？
• RQ5 選択的環境における構造的規則性が、適応的発生的制約の自発的出現をどのように可能にするか？

主な発見

• レギュレーター重みに対するL1およびL2正則化ペナルティを用いた正則化は、未知の環境に適応可能な一般化可能な発生的組織の進化を顕著に促進する。
• 正則化の下で、進化した表現型分布とターゲット分布との間のカイ二乗誤差が減少し、一般化性能の向上が示された。
• L1またはL2正則化を施した発生的システムは、選択的環境の変化に対してより頑健な表現型分布を進化させ、新しい最適表現型に到達するのに必要な変異回数も少ない。
• 本研究では、機械学習における過剰適合と進化における適応不能な発生的シナリオの間の機構的同等性を実証し、正則化が統一的解決策として機能することを示した。
• 正則化を施した進化系は、過去の環境への過剰専門化が減少しており、進化が予見能力がなくても一般化を学ぶメカニズムが存在することを示唆している。
• ソボル系列を用いたサンプリングは、確率的ノイズを低減させ、経験的分布推定の安定性と正確性を向上させた。