[논문 리뷰] Learning Fitness Functions for Genetic Algorithms

Shantanu Mandal, Todd A. Anderson외 4명|arXiv (Cornell University)|2019. 08. 22.

Evolutionary Algorithms and Applications참고 문헌 23인용 수 4

한 줄 요약

이 논문은 유전 알고리즘 기반 자동 프로그램 합성에서 유전자 알고리즘의 적합도 함수를 자동으로 학습하기 위해 신경망을 사용하는 새로운 프레임워크를 제안한다. 이는 프로그램 탐색 효율을 크게 향상시킨다. 경량 탐색 히وري스틱을 통합함으로써 기존 최고 수준의 방법들에 비해 더 적은 세대 수로 더 많은 올바른 프로그램을 발견할 수 있다.

ABSTRACT

The problem of automatic software generation is known as Machine Programming. In this work, we propose a framework based on genetic algorithms to solve this problem. Although genetic algorithms have been used successfully for many problems, one criticism is that hand-crafting its fitness function, the test that aims to effectively guide its evolution, can be notably challenging. Our framework presents a novel approach to learn the fitness function using neural networks to predict values of ideal fitness functions. We also augment the evolutionary process with a minimally intrusive search heuristic. This heuristic improves the framework's ability to discover correct programs from ones that are approximately correct and does so with negligible computational overhead. We compare our approach with several state-of-the-art program synthesis methods and demonstrate that it finds more correct programs with fewer candidate program generations.

연구 동기 및 목표

• 유전 알고리즘 기반 프로그램 합성에서 효과적인 적합도 함수를 수작업으로 설계하는 데 도전하는 것.
• 신경망을 사용해 적합도 함수를 자동으로 학습시킴으로써 수작업으로 만드는 부담을 줄이는 것.
• 최소한의 간섭을 가진 탐색 히وري스틱을 도입해 약간 정확한 프로그램의 정밀 조정을 향상시켜 진화적 탐색 효율을 높이는 것.
• 정확도와 생성 효율성 측면에서 기존의 프로그램 합성 기법들을 능가하는 것.

제안 방법

• 후보 프로그램에 대한 이상적인 적합도 값을 예측할 수 있도록 신경망을 훈련시켜 수작업으로 설계된 적합도 함수를 대체한다.
• 예측된 적합도 값을 진화 알고리즘의 주요 가이드로 사용한다.
• 해결책의 경계 근처에 있는 프로그램을 점진적으로 향상시키는 경량 탐색 히وري스틱을 도입한다.
• 진화 과정에 거의 영향을 주지 않는 방식으로 히وري스틱을 적용하여 계산 비용을 최소화한다.
• 신경망 기반의 적합도 예측과 히وري스틱을 결합하여 정확한 프로그램으로의 수렴을 향상시킨다.
• 통제된 조건에서 최신 기술의 프로그램 합성 방법들과 프레임워크를 평가한다.

실험 결과

연구 질문

• RQ1 신경망은 자동 소프트웨어 생성에서 유전 알고리즘을 정확한 프로그램으로 이끄는 데 효과적으로 적합도 함수를 학습할 수 있는가?
• RQ2 최소한의 간섭을 가진 탐색 히وري스틱은 진화 과정에서 정확한 프로그램의 탐색을 어떻게 향상시키는가?
• RQ3 기존 방법들과 비교해 제안된 프레임워크는 정확한 해를 찾기 위해 필요한 후보 프로그램 세대 수를 얼마나 줄이는가?
• RQ4 학습된 적합도 함수와 탐색 히وري스틱의 통합이 프로그램 합성의 정확도를 높이는가?

주요 결과

• 동일한 수의 후보 프로그램 세대 수에서 최신 기술의 방법들보다 더 많은 정확한 프로그램을 발견한다.
• 신경망을 통한 학습된 적합도 함수의 사용으로 수작업으로 적합도 함수를 설계하는 데 필요한 노력이 줄어든다.
• 통합된 탐색 히وري스틱은 거의 계산 비용 없이 근접한 정확한 프로그램의 정밀 조정을 향상시킨다.
• 더 적은 세대 수로 더 높은 합성 성공률을 달성하여 더 빠른 수렴을 보인다.
• 다양한 합성 작업에서 정확한 프로그램을 발견하는 데 있어 뛰어난 확장성과 내구성을 보여준다.