[논문 리뷰] Fitness inheritance in the Bayesian optimization algorithm

Martin Pelikán, Kumara Sastry|arXiv (Cornell University)|2004. 02. 15.

Evolutionary Algorithms and Applications참고 문헌 18인용 수 8

한 줄 요약

이 논문은 유망한 해를 위한 베이지안 네트워크 모델을 사용해 적절한 적합도를 추정함으로써 비용이 많이 드는 적합도 평가를 극적으로 줄이는 적합도 유전을 제안한다. 모델이 복잡한 종속성을 포착할 수 있는 본질적 능력을 활용함으로써, 실제 적합도 평가 횟수를 최대 53배까지 감소시켰으며, 이는 전체 해의 1퍼센트 미만이 직접 평가되더라도 높은 성능을 유지할 수 있음을 보여준다.

ABSTRACT

This paper describes how fitness inheritance can be used to estimate fitness for a proportion of newly sampled candidate solutions in the Bayesian optimization algorithm (BOA). The goal of estimating fitness for some candidate solutions is to reduce the number of fitness evaluations for problems where fitness evaluation is expensive. Bayesian networks used in BOA to model promising solutions and generate the new ones are extended to allow not only for modeling and sampling candidate solutions, but also for estimating their fitness. The results indicate that fitness inheritance is a promising concept in BOA, because population-sizing requirements for building appropriate models of promising solutions lead to good fitness estimates even if only a small proportion of candidate solutions is evaluated using the actual fitness function. This can lead to a reduction of the number of actual fitness evaluations by a factor of 30 or more.

연구 동기 및 목표

• 확률적 모델을 사용해 적합도를 추정함으로써 진화 알고리즘에서 비용이 많이 드는 적합도 평가 횟수를 줄이는 것.
• 베이지안 네트워크와 결합된 베이지안 최적화 알고리즘(BOA)에 적합도 유전을 도입하는 것.
• 실제 적합도 함수를 통해 평가하는 후보 해의 비율이 1퍼센트 미만일 때에도 정확한 적합도 추정이 가능한지 조사하는 것.
• onemax 및 연결된 함정 문제와 같이 위험한 문제에 대해 BOA에서의 적합도 유전의 효과를 평가하는 것.
• 대규모 개체군을 사용하는 진화 알고리즘에서 모델 복잡성과 적합도 평가 절감 사이의 트레이드오프를 탐색하는 것.

제안 방법

• 새로 생성된 후보 해의 적합도를 추정하기 위해 BOA의 베이지안 네트워크 모델을 확장하여, 단지 샘플링을 넘어서 적합도 추정에도 활용한다.
• 베이지안 네트워크의 전체 조건부 확률표(CPT)와 국소 구조를 사용해 해의 구조와 적합도 지형도를 모두 모델링한다.
• 각 세대에서 선택된 유망한 해를 기반으로 모델을 훈련시켜 종속성과 규칙성을 포착한다.
• 학습된 모델을 사용해 신규 해의 일부에 대해 적합도를 추정하고, 실제 적합도 함수로 평가하는 비율은 극히 소수에 그친다.
• onemax, 순서 4와 순서 5의 연결된 함정 문제에 대해 적용하며, 새로운 해가 개체군을 완전히 대체하는 교체 전략을 사용한다.
• 실제 적합도 평가 횟수를 최소화하면서도 전역 최적해에 수렴하도록 적합도 유전 비율을 최적화한다.

실험 결과

연구 질문

• RQ1 적합도 유전은 해 품질이 저하되지 않도록 BOA에서 실제 적합도 평가 횟수를 크게 줄일 수 있는가?
• RQ2 실제 평가를 통해 평가하는 해의 비율이 극히 적을 경우, BOA에서 베이지안 네트워크 모델로부터 유도된 적합도 추정의 정확도는 어느 정도인가?
• RQ3 BOA에서 실제 적합도 함수로 평가하는 해의 비율과 모델 기반 추정의 비율을 최적화하려면 어떻게 해야 하는가?
• RQ4 BOA의 개체군 크기 요구 조건이 모델 정확도 덕분에 효과적인 적합도 유전을 지원하는가?
• RQ5 onemax 및 순서 4와 5의 연결된 함정 문제와 같이 전역 최적해가 알려진 위험한 문제에서 적합도 유전은 어떻게 성능을 발휘하는가?

주요 결과

• onemax 문제에 대해 BOA에서의 적합도 유전은 실제 적합도 평가 횟수를 31배 줄였고, 순서 4의 연결된 함정 문제에선 32배, 순서 5에선 최대 53배까지 줄였다.
• 후보 해의 1퍼센트 미만이 실제 적합도 함수로 평가되더라도 알고리즘이 여전히 전역 최적해로 안정적으로 수렴한다.
• 개체군이 클수록 적합도 추정의 정확도가 향상되며, 이는 BOA의 모델 구축 요구 조건으로 인해 자연스럽게 발생한다. 따라서 단순한 GA보다 BOA에서 적합도 유전이 더 효과적이다.
• 모델이 적합도 지형도의 비선형성과 종속성을 포착할 수 있기 때문에, 실제 평가 횟수를 최대 53배까지 줄일 수 있는 빠른 성능 향상을 달성한다.
• 최적의 유전 비율은 모델 구축, 샘플링, 실제 적합도 평가의 상대적 복잡성에 따라 달라지며, 적합도 평가가 비용이 많이 들 경우 높은 비율이 유리하다.
• 결과적으로, BOA는 대규모 개체군에서 고품질의 모델을 구축할 수 있기 때문에, 적합도 유전이 특히 효과적임을 시사한다. 이는 극소수의 직접 평가로도 신뢰할 수 있는 추정이 가능하다.