[논문 리뷰] How Evolution Learns to Generalise: Principles of under-fitting, over-fitting and induction in the evolution of developmental organisation

Kostas Kouvaris, Jeff Clune외 3명|arXiv (Cornell University)|2015. 08. 27.

Evolutionary Algorithms and Applications참고 문헌 44인용 수 14

한 줄 요약

이 논문은 자연선택이 과거 조건에 과적합되지 않고 새로운 환경으로 일반화할 수 있는 발달조직을 진화시킬 수 있다고 제안한다. 이는 기계학습에서의 일반화와 유사하다. 선택적 이점과 발달 비용을 기반으로 한 규제 네트워크 모델을 사용하여, L1 및 L2 펜alties와 같은 정규화 기법이 새로운 환경에서 적응 가능한 적응형 분포를 진화시켜, 소수의 돌연변이로도 새로운 환경에 적응하도록 한다.

ABSTRACT

One of the most intriguing questions in evolution is how organisms exhibit suitable phenotypic variation to rapidly adapt in novel selective environments which is crucial for evolvability. Recent work showed that when selective environments vary in a systematic manner, it is possible that development can constrain the phenotypic space in regions that are evolutionarily more advantageous. Yet, the underlying mechanism that enables the spontaneous emergence of such adaptive developmental constraints is poorly understood. How can natural selection, given its myopic and conservative nature, favour developmental organisations that facilitate adaptive evolution in future previously unseen environments? Such capacity suggests a form of extit{foresight} facilitated by the ability of evolution to accumulate and exploit information not only about the particular phenotypes selected in the past, but regularities in the environment that are also relevant to future environments. Here we argue that the ability of evolution to discover such regularities is analogous to the ability of learning systems to generalise from past experience. Conversely, the canalisation of evolved developmental processes to past selective environments and failure of natural selection to enhance evolvability in future selective environments is directly analogous to the problem of over-fitting and failure to generalise in machine learning. We show that this analogy arises from an underlying mechanistic equivalence by showing that conditions corresponding to those that alleviate over-fitting in machine learning enhance the evolution of generalised developmental organisations under natural selection. This equivalence provides access to a well-developed theoretical framework that enables us to characterise the conditions where natural selection will find general rather than particular solutions to environmental conditions.

연구 동기 및 목표

• 자연선택이 시각이 짧고 보수적인 성향을 지닌 바에 불구하고, 미래에 나타나지 않은 환경에서 적응 가능성을 높이는 발달 구조를 어떻게 선별할 수 있는지 이해하는 것.
• 다양한 선택 환경 간에 일반화되는 적응형 변이를 생산하도록 발달 시스템이 진화하는 조건을 조사하는 것.
• 과거 환경에 과적합되는 것을 방지하고 널리 유용한 적응형 솔루션을 찾는 데 기여하는 메커니즘을 특정하는 것.
• 기계학습에서의 과적합과 진화에서의 비적응적 캐나라이제이션 간의 기계적 동치를 정규화를 통한 통합 원리로 설정하는 것.

제안 방법

• N개의 유전자를 가진 규제 네트워크를 모델링하며, 배아적 형질은 [-1,1]^N 내의 랜덤 벡터로 생성되고 고정된 발달 과정을 통해 성체 형질로 발달한다.
• 적합도를 f_S(P_a) = b - λc로 정의하며, b는 성체 형질과 목표 형질 S 간의 내적 기반 선택적 이점이고, c는 규제 가중치 기반의 비용 항이다.
• 두 가지 비용 함수를 사용한다: L1 노름 (|B|_1)과 L2 노름 (|B|_2^2)으로, 강한 또는 많은 연결을 방지하여 기계학습의 정규화를 모방한다.
• 5000개의 임의로 샘플된 배아적 형질을 대상으로 Classify and Count (CC) 방법을 사용해 적응형 분포를 경험적으로 추정하며, 목표 패턴에 가까운 정도로 분류한다.
• 표본 추출 편향을 줄이고 유전적 공간의 균일한 커버리지 확보를 위해 저이분산 Sobol 수열을 적용한다.
• 진화된 적응형 분포와 과거 또는 모든 잠재적 목표 형질 분포의 기대값 간 카이제곱 오차를 사용해 일반화 정도를 정량화한다.

실험 결과

연구 질문

• RQ1 자연선택이 과거에 경험하지 않은 새로운 환경으로 일반화할 수 있는 발달 조직을 어떤 조건에서 진화시킬 수 있는가?
• RQ2 규제 네트워크 가중치의 정규화(L1/L2)가 일반화 가능한 적응형 분포의 진화에 어떤 영향을 미치는가?
• RQ3 과거 환경에 대한 발달 캐나라이제이션은 미래의 적응 가능성을 얼마나 방해하며, 이를 어떻게 완화할 수 있는가?
• RQ4 기계학습에서의 과적합과 진화에서의 비적응적 발달 제약 간의 유사성을 시뮬레이션을 통해 체계적으로 정의하고 검증할 수 있는가?
• RQ5 선택 환경의 구조적 규칙성이 적응 가능한 발달 제약의 자발적 탄생을 어떻게 가능하게 하는가?

주요 결과

• 규제 가중치에 대한 L1 및 L2 페널티를 통한 정규화는 새로운 환경에 적응 가능한 발달 조직의 진화를 크게 향상시킨다.
• 정규화가 적용된 경우, 진화된 적응형 분포와 목표 분포 간의 카이제곱 오차가 감소하여 일반화 성능 향상이 확인된다.
• L1 또는 L2 정규화가 적용된 발달 시스템은 선택 환경 변화에 더 강건하며, 새로운 최적의 형질에 도달하기 위해 필요한 돌연변이 수가 적다.
• 연구는 기계학습에서의 과적합과 진화에서의 비적응적 캐나라이제이션 간의 기계적 동치를 입증하였으며, 정규화가 통합적 해결책으로 기능한다.
• 정규화가 적용된 진화 시스템은 과거 환경에 대한 과도한 특화가 감소하여, 진화가 사전 지식 없이도 일반화를 '학습'할 수 있는 메커니즘이 있음을 시사한다.
• Sobol 수열을 사용한 표본 추출은 경험적 분포 추정의 안정성과 정확도를 향상시켜 결과의 확률적 노이즈를 감소시킨다.