[논문 리뷰] Self-adaptation of Mutation Rates in Non-elitist Populations

Duc-Cuong Dang, Per Kristian Lehre|arXiv (Cornell University)|2016. 06. 17.

Evolutionary Algorithms and Applications참고 문헌 10인용 수 9

한 줄 요약

이 논문은 이산적이고 비엘리트리스틱 진화 알고리즘에서의 자가적응의 첫 번째 엄밀한 런타임 분석을 제시하며, 돌연변이 비율을 유전자가로 인코딩함으로써 고정되거나 균일하게 혼합된 돌연변이 비율보다 지수적 속도 향상을 이끌어내는 자동 튜닝이 가능함을 입증한다. 이 방법은 수준 기반 정리(의정서)를 사용하여 전략 매개변수 $ p $ 가 충분히 낮을 경우 알고리즘이 적합도 지형에 효율적으로 돌연변이 비율을 적응시켜 LeadingOnes 문제에서 최적 성능을 달성함을 보여준다.

ABSTRACT

The runtime of evolutionary algorithms (EAs) depends critically on their parameter settings, which are often problem-specific. Automated schemes for parameter tuning have been developed to alleviate the high costs of manual parameter tuning. Experimental results indicate that self-adaptation, where parameter settings are encoded in the genomes of individuals, can be effective in continuous optimisation. However, results in discrete optimisation have been less conclusive. Furthermore, a rigorous runtime analysis that explains how self-adaptation can lead to asymptotic speedups has been missing. This paper provides the first such analysis for discrete, population-based EAs. We apply level-based analysis to show how a self-adaptive EA is capable of fine-tuning its mutation rate, leading to exponential speedups over EAs using fixed mutation rates.

연구 동기 및 목표

• 자기적응이 비엘리트리스틱 진화 알고리즘에서 어떻게 작용하는지에 대한 엄밀한 이론적 기반을 제공하기 위해.
• 비엘리트리스틱 집단에서 자가적응이 성공하기 위한 전략 매개변수 $ p $ 에 대한 必要 및 충분 조건을 규명하기 위해.
• 자기적응이 효율성에 필수적일 수 있음을 입증하여, 특정 문제에서 고정 또는 혼합된 돌연변이 비율 전략보다 뛰어난 성능을 보일 수 있음을 보여주기 위해.
• 비엘리트리스틱 EAs에서 자기적응을 통한 런타임 측면에서 표준 (μ+λ) EA를 능가할 수 있음을 보여주기 위해.

제안 방법

• 연구는 LeadingOnes 함수에 대해 자기적응 (μ+λ) EA의 기대 런타임을 근사하기 위해 수준 기반 분석을 활용한다.
• 돌연변이 비율은 검색점의 일부로 유전자가로 인코딩되며, 각 개체는 비트스트링과 집합 $ \mathcal{M} $ 에 속하는 돌연변이 비율 $ \chi \in \mathcal{M} $ 을 지닌다.
• 자기적응 돌연변이 연산자는 확률 $ p $ 로 돌연변이 비율을 수정하며, $ \mathcal{M} \setminus \{\chi\} $ 에서 균일하게 선택한다. 이때 비트스트링은 새로운 비율로 변형된다.
• 분석은 알고리즘이 다항 런타임을 달성할 수 있는 조건을 $ p $, 집단 크기 $ \lambda $, 문제 크기 $ n $ 에 대해 설정한다.
• 이 방법은 농도 경계와 마르코프 부등식을 사용하여, 시간이 지남에 따라 집단이 유리한 구성 상태에 머무를 확률이 높다는 것을 보여준다.
• 자기적응이 단지 유리한 것이 아니라 필수적임을 입증하기 위해, LeadingOnes의 수정된 형태를 도입한다. 이 경우 고정 또는 혼합된 비율은 지수 시간이 걸리지만, 자기적응은 다항 시간 런타임을 달성한다.

실험 결과

연구 질문

• RQ1 비엘리트리스틱 진화 알고리즘에서 자기적응이 효율적인 최적화를 이끌기 위해 전략 매개변수 $ p $ 에 대해 어떤 조건이 필요한가?
• RQ2 이산 최적화에서 고정 또는 균일하게 혼합된 돌연변이 비율보다 자기적응이 지수적 속도 향상을 이룰 수 있는가?
• RQ3 일부 문제 인스턴스에서 자기적응이 효율적 최적화에 필수적인가, 아니면 정적 매개변수 설정으로 회피할 수 있는가?
• RQ4 비엘리트리스틱 EAs에서 자기적응을 통한 기대 런타임이 표준 (μ+λ) EA를 능가할 수 있는가?

주요 결과

• 전략 매개변수 $ p $ 가 충분히 작을 경우, 자기적응 EA는 LeadingOnes 함수에서 기대 런타임을 $ O(n\log\lambda + n^2/\lambda) $ 세대 내에 달성한다.
• 특히 $ p \leq 1/1000 $ 일 경우, 알고리즘은 불리한 수준에 머무는 집단 비율이 낮게 유지되며, 높은 확률로 안정적인 수렴을 보장한다.
• 집단은 돌연변이 비율을 동적으로 적응한다: 초기에는 높은 비율을 선호하고, 적합도가 향상됨에 따라 낮은 비율로 전환되며, 이는 $ n=200 $ 에서의 실험으로 확인되었다.
• 수정된 LeadingOnes 함수에서 고정 또는 혼합된 돌연변이 비율은 지수 시간이 걸리지만, 자기적응은 다항 시간 런타임을 달성하므로 필수적임을 입증한다.
• 좋은 단계에서는 최적해에 도달하는 데 걸리는 세대 수의 기대값이 $ O(1) $ 이며, 이로 인해 전체 기대 런타임은 $ O(\lambda(n\log\lambda + n^2/\lambda)) $ 번의 함수 평가로 나타난다.
• 실험 결과, (1/10)-순위 개체가 적합도 $ j \geq 108 $ 에 도달할 경우, 집단의 90% 이상이 낮은 돌연변이 비율 $ \chi_{\text{low}} = 2/5 $ 를 선택함으로써 적응 행동이 확인되었다.