[논문 리뷰] DXNN Platform: The Shedding of Biological Inefficiencies

Gene I. Sher|arXiv (Cornell University)|2010. 11. 28.

Evolutionary Algorithms and Applications참고 문헌 9인용 수 9

한 줄 요약

이 논문은 튜플 기반 인코딩, 이중 단계 유전적 과정, 대상 조정, 무작위 강도 돌연변이(RIM)를 통해 신경진화에서 생물학적 비효율성을 제거하는 새로운 메믹 TWEANN 플랫폼인 DXNN을 소개한다. 이는 벤치마크 과제에서 빠른 수렴 속도를 보이며 컴팩트하고 고성능의 신경망을 달성했으며, 로봇 및 인공 생명 시뮬레이션에서 뛰어난 다양성과 확장성을 입증한다.

ABSTRACT

This paper introduces a novel type of memetic algorithm based Topology and Weight Evolving Artificial Neural Network (TWEANN) system called DX Neural Network (DXNN). DXNN implements a number of interesting features, amongst which is: a simple and database friendly tuple based encoding method, a 2 phase neuroevolutionary approach aimed at removing the need for speciation due to its intrinsic population diversification effects, a new "Targeted Tuning Phase" aimed at dealing with "the curse of dimensionality", and a new Random Intensity Mutation (RIM) method that removes the need for crossover algorithms. The paper will discuss DXNN's architecture, mutation operators, and its built in feature selection method that allows for the evolved systems to expand and incorporate new sensors and actuators. I then compare DXNN to other state of the art TWEANNs on the standard double pole balancing benchmark, and demonstrate its superior ability to evolve highly compact solutions faster than its competitors. Then a set of oblation experiments is performed to demonstrate how each feature of DXNN effects its performance, followed by a set of experiments which demonstrate the platform's ability to create NN populations with exceptionally high diversity profiles. Finally, DXNN is used to evolve artificial robots in a set of two dimensional open-ended food gathering and predator-prey simulations, demonstrating the system's ability to produce ever more complex Neural Networks, and the system's applicability to the domain of robotics, artificial life, and coevolution.

연구 동기 및 목표

• 기존 신경진화 시스템에서 내재된 비효율성, 특히 종 분화와 교잡에 의존하는 문제를 해결하기 위해.
• 인공 신경망을 진화시킬 때 흔히 발생하는 고차원 탐색 공간에서의 치명적 차원의 악영향을 줄이기 위해.
• 새로운 센서와 액추에이터를 동적으로 통합할 수 있도록 내장된 기능 선택 기능을 통해 신경망의 동적 확장을 가능하게 하기 위해.
• 로봇 및 인공 생명 환경에서 컴팩트하고 다양하며 고성능의 신경망을 효율적으로 진화시킬 수 있는 확장성 있고 데이터베이스 우수한 프레임워크를 개발하기 위해.

제안 방법

• 간단하고 데이터베이스 우수한 네트워크 구성 저장 및 검색을 위해 튜플 기반 인코딩 체계를 사용한다.
• 이중 단계 신경진화 접근법을 사용한다: 먼저 네트워크 구조와 가중치를 진화시키고, 이후에 정밀 조정 단계를 통해 해를 개선한다.
• 교잡이 필요 없이 효과적인 탐색을 가능하게 하는 무작위 강도 돌연변이(RIM)라는 돌연변이 연산자를 도입한다.
• 진화 과정 중에 센서와 액추에이터를 동적으로 추가할 수 있도록 내장된 기능 선택 메커니즘을 통합한다.
• 이중 단계 과정의 자연스러운 부산물로 인해 인구 다양성이 유지되어 종 분화에 의존하는 정도를 줄인다.
• 고성능 파rameter에 집중하는 대상 조정 단계를 적용하여 차원의 저주 문제를 완화한다.

실험 결과

연구 질문

• RQ1 교잡 또는 종 분화를 사용하지 않고도 최첨단 TWEANN보다 더 빠르게 컴팩트하고 고성능의 신경망을 진화시킬 수 있는가?
• RQ2 대상 조정 단계의 통합이 고차원 탐색 공간에서 수렴 속도와 해 품질에 어떤 영향을 미치는가?
• RQ3 RIM 돌연변이 연산자가 전통적인 교잡 기반 방법에 비해 얼마나 뛰어난 다양성 유지와 효과적인 탐색을 가능하게 하는가?
• RQ4 DXNN 플랫폼은 진화 과정 중에 새로운 센서와 액추에이터를 동적으로 네트워크 아키텍처에 통합하면서도 성능을 유지할 수 있는가?
• RQ5 DXNN은 음식 수집 및 천적-피식자 상호작용과 같은 복잡한 개방형 행동을 인공 생명 및 로봇 시뮬레이션에서 얼마나 효과적으로 진화시키는가?

주요 결과

• DXNN은 경쟁 TWEANN보다 더 빠른 수렴 속도로 더블 펄스균형 벤치마크 과제에 대해 매우 컴팩트한 솔루션을 진화시켰다.
• 이중 단계 진화 과정은 예외적으로 높은 다양성 프로파일을 자연스럽게 생성하여 종 분화를 명시적으로 사용할 필요를 줄였다.
• 제거 실험 결과 각 구성 요소—RIM, 대상 조정, 이중 단계 구조—가 성능 향상에 기여했음을 확인했다.
• 플랫폼은 2차원 개방형 시뮬레이션에서 음식 수집 및 천적-피식자 상호작용을 포함한 복잡하고 적응적인 행동을 수행하는 인공 로봇을 성공적으로 진화시켰다.
• 튜플 기반 인코딩 덕분에 효율적인 데이터베이스 저장 및 검색이 가능해져 대규모 진화 실험에서의 확장성과 재현 가능성을 지원했다.
• 공진화 및 인공 생명 환경에서 시간이 지남에 따라 점점 더 복잡한 신경망을 진화시키는 등 시스템은 확장성과 강건성을 입증했다.