[논문 리뷰] Qualities, challenges and future of genetic algorithms: a literature review

Aymeric Vié, Kleinnijenhuis, Alissa M.외 1명|arXiv (Cornell University)|2020. 11. 05.

Metaheuristic Optimization Algorithms Research참고 문헌 140인용 수 14

한 줄 요약

이 문헌 고찰은 유전적 알고리즘(GAs)의 최신 동향을 종합적으로 분석하며, 복잡하고 기복이 심한 탐색 공간을 탐색하고 고차원 최적화 문제를 해결하는 데서의 강점을 분석하고, 계산 비용, 파rameter 조정, 해의 표현 방식과 같은 핵심 과제를 밝혀낸다. 또한 GPU 가속, 자가 적응형 파rameter 제어, 생물학적으로 영감을 받은 표현 방식과 같은 새로운 해결책을 강조하며, GAs가 개방형 진화와 일반 인공지능을 위한 핵심 기반 기술이 될 수 있음을 제시한다.

ABSTRACT

Genetic algorithms, computer programs that simulate natural evolution, are increasingly applied across many disciplines. They have been used to solve various optimisation problems from neural network architecture search to strategic games, and to model phenomena of adaptation and learning. Expertise on the qualities and drawbacks of this technique is largely scattered across the literature or former, motivating an compilation of this knowledge at the light of the most recent developments of the field. In this review, we present genetic algorithms, their qualities, limitations and challenges, as well as some future development perspectives. Genetic algorithms are capable of exploring large and complex spaces of possible solutions, to quickly locate promising elements, and provide an adequate modelling tool to describe evolutionary systems, from games to economies. They however suffer from high computation costs, difficult parameter configuration, and crucial representation of the solutions. Recent developments such as GPU, parallel and quantum computing, conception of powerful parameter control methods, and novel approaches in representation strategies, may be keys to overcome those limitations. This compiling review aims at informing practitioners and newcomers in the field alike in their genetic algorithm research, and at outlining promising avenues for future research. It highlights the potential for interdisciplinary research associating genetic algorithms to pulse original discoveries in social sciences, open ended evolution, artificial life and AI.

연구 동기 및 목표

• 유전적 알고리즘(GA)의 특성, 한계, 최근 발전에 산재한 지식을 통합하고 최신 자료로 구성된 통합 자료로 정리하기.
• GA 적용에 있어 지속적인 과제인 높은 계산 비용, 어려운 파arameter 설정, 부적절한 해의 표현 방식을 특정하기.
• GPU 컴퓨팅, 양자 컴퓨팅, 자가 적응형 파arameter 제어와 같은 신기술이 이러한 한계를 어떻게 극복할 수 있는지 탐색하기.
• 최적화를 넘어서 GAs의 잠재력을 강조하며, 특히 개방형 진화, 부상성 현상, 인공 생명 모델링 분야에서의 잠재력 제시하기.
• 사회과학, 인공지능, 진화 이론과의 융합 연구를 통해 일반 지능과 적응형 시스템 분야에서 새로운 발견을 이끌어내는 데 GAs를 적극적으로 활용할 것을 주장하기.

제안 방법

• 1975년부터 2021년까지의 동료 심사 논문 및 기술 보고서를 대상으로 한 유전적 알고리즘에 대한 체계적 고찰. 핵심 원리, 적용 사례, 과제에 중점을 둔다.
• GA 구성 요소 분류: 집단 기반 탐색, 유전적 표현 방식, 적합도 평가, 선택, 교차, 변이 연산자.
• 신경망 아키텍처 탐색, 다목적 최적화, 유전적 프로그래밍, 경제 모델링 등 다양한 분야에서의 GA 성능 분석. 경험적 및 이론적 근거를 바탕으로 한다.
• 최근 혁신 사례 분석: GPU 기반 진화, 공진화 전략, 생물학적 현상(예: 유전자 중복, 상호작용 등)을 통합한 구조적 GA.
• 수동 설정 부담을 줄이기 위한 파arameter 제어 메커니즘 탐색, 자가 적응형 및 동적 조정 기법 포함.
• 수학적 유전학과 통계역학과의 이론적 프레임워크를 통합하여 연산자 행동 및 수렴 동역학 이해를 향상시키기.

실험 결과

연구 질문

• RQ1 유전적 알고리즘이 큰 크기이면서 복잡한 탐색 공간을 효과적으로 탐색할 수 있는 핵심적 특성은 무엇인가?
• RQ2 유전적 알고리즘이 광범위하게 적용 가능함에도 불구하고, 계산 효율성과 파arameter 설정 문제에 지속적으로 직면하는 이유는 무엇인가?
• RQ3 새로운 표현 전략과 생물학적 현실성(예: 상호작용, 다중기능성, 유전자 조절)을 통합함으로써 GAs의 적응성과 성능은 어떻게 향상될 수 있는가?
• RQ4 하드웨어 발전(예: GPU, 양자 컴퓨팅)과 알고리즘 설계 발전(예: 자가 적응형 파arameter, 공진화)은 현재의 한계를 어떻게 극복할 수 있는가?
• RQ5 유전적 알고리즘이 새로운 복잡한 발견을 생성할 수 있는 자율적이고 개방형, 자기 향상 시스템의 기초가 될 수 있는가? 특히 일반 인공지능 달성에 있어 그러한 가능성이 있는가?

주요 결과

• GAs는 탐색과 이용의 균형을 유지함으로써 큰 크기이면서 기복이 심하고 다모드 탐색 공간을 효과적으로 탐색하며, 적합도 표면가 잘 이해되지 않더라도 전역 최적해를 종종 찾을 수 있다.
• GAs는 신경망 아키텍처를 자동으로 진화시키고 다목적 최적화 문제를 해결하는 데 뛰어난 성능을 보이며, 고차원, 희소성, 미분 불가능한 공간에서는传통적인 기울기 기반 방법보다 뛰어난 성능을 보인다.
• 유전자 중복, 이동, 조절 네트워크와 같은 생물학적으로 영감을 받은 메커니즘을 구조적 유전적 알고리즘에 통합함으로써 복잡하고 적응력 있는 시스템을 진화시킬 수 있는 능력이 향상된다.
• 최근 GPU 컴퓨팅과 병렬 처리 기술의 발전으로 계산 비용이 크게 감소하여 수렴 속도가 빨라지고 대규모 진화 실험을 가능하게 하였다.
• 자기 적응형 파arameter 제어와 공진화 전략은 수동 설정 의존도를 줄이고 다양한 문제 영역에서의 강인성을 향상시킨다.
• GAs에서의 개방형, 다각화된 진화 과정은 내재된 적응 가능성과 새로운 특성의 기원을 가능하게 하며, 이는 일반 인공지능과 자율적 탐색 시스템을 햖थ한 실현 가능한 길로 위치지을 수 있다.