[논문 리뷰] Analysis of the Effective Degrees of Freedom in Genetic Algorithms

Christopher R. Stephens, Henri Waelbroeck|ArXiv.org|1996. 11. 13.

Evolutionary Algorithms and Applications참고 문헌 6인용 수 17

한 줄 요약

이 논문은 선택, 돌연변이, 교차 작용을 고려한 유전적 알고리즘(GA)의 진화 방정식을 유도하며, 각 세대당 평균 내스키마 내 적합도 향상도인 $\Delta_l$를 통해 적합도 증가를 평가하기 위해 스케마의 군집 분석을 도입한다. $k=0$ 경관에서는 스케마 재구성 비율이 약간 더 높아지며, 극단적인 길이의 스케마($l \ll N/2$ 또는 $l \gg N/2$)가 유리하다. 반면 $k>0$ 경관에서는 효과적인 자유도는 스케마 자체가 아니라 상호작용하는 비트들이 연결된 트리 구조이며, 상관관계는 염색체 거리가 아닌 연결 거리에 따라 감소한다.

ABSTRACT

An evolution equation for a population of strings evolving under the genetic operators: selection, mutation and crossover is derived. The corresponding equation describing the evolution of schematas is found by performing an exact coarse graining of this equation. In particular exact expressions for schemata reconstruction are derived which allows for a critical appraisal of the ``building-block hypothesis'' of genetic algorithms. A further coarse-graining is made by considering the contribution of all length-l schematas to the evolution of population observables such as fitness growth. As a test function for investigating the emergence of structure in the evolution the increase per generation of the in-schemata fitness averaged over all schematas of length l, $Δ_l$, is introduced. In finding solutions of the evolution equations we concentrate more on the effects of crossover, in particular we consider crossover in the context of Kauffman Nk models with k=0,2. For k=0, with a random initial population, in the first step of evolution the contribution from schemata reconstruction is equal to that of schemata destruction leading to a scale invariant situation where the contribution to fitness of schematas of size l is independent of l. This balance is broken in the next step of evolution leading to a situation where schematas that are either much larger or much smaller than half the string size dominate over those with $l \approx N/2$. The balance between block destruction and reconstruction is also broken in a k>0 landscape. It is conjectured that the effective degrees of freedom for such landscapes are landscape connective trees that break down into effectively fit smaller blocks, and not the blocks themselves. Numerical simulations confirm this ``connective tree hypothesis'' by showing that correlations drop off with connective distance and not with intrachromosomal distance.

연구 동기 및 목표

• 선택, 돌연변이, 교차 작용 하에서 스케마의 역학을 분석함으로써 유전적 알고리즘 내 효과적인 자유도를 규명하는 것.
• 스케마 재구성과 파괴에 대한 정확한 표현식을 유도함으로써 빌딩 블록 가설의 타당성을 평가하는 것.
• $k=0$ 및 $k=2$인 $Nk$ 적합도 경관에서 교차 작용이 다양한 스케마 길이 $l$ 에서 적합도 증가에 미치는 영향을 조사하는 것.
• 복잡한 적합도 경관에서 효과적인 빌딩 블록의 출현을 규정하는 데 있어 염색체적 근접성인지, 연결 구조인지 판단하는 것.
• $k>0$ 경관에서 효과적인 자유도가 스케마가 아니라 상호작용하는 비트들의 연결 트리임을 시험하는 것.

제안 방법

• 선택, 돌연변이, 교차 작용을 거쳐 변화하는 문자열 집단에 대한 정확한 진화 방정식을 유도함.
• 정확한 군집화를 수행하여 스케마 수준의 진화 방정식을 도출함으로써 스케마 재구성과 파괴를 정밀하게 추적할 수 있도록 함.
• $\Delta_l$를 도입하여 각 세대당 평균 내스케마 내 적합도 향상도를 측정하는 테스트 함수로 활용함으로써 구조적 출현을 탐색함.
• $k=0$ (상관없는 비트) 및 $k=2$ (상관 있는 비트)인 $Nk$ 경관에 모델을 적용하여 교차 작용의 영향을 분석함.
• 수치 시뮬레이션을 통해 연결 거리 대비 내부 염색체 거리에 따른 상관관계 감쇠를 측정함으로써 '연결 트리 가설'을 검증함.
• 유한한 크기 효과와 선택 임계치를 분석하여 특정 길이와 비트 수를 가진 스케마가 얼마나 오래 지속되고 적합도 증가에 기여할지를 결정함.

실험 결과

연구 질문

• RQ1 교차 작용은 유전적 알고리즘에서 스케마 파괴와 재구성 간의 균형에 어떻게 영향을 미치는가?
• RQ2 특히 $k>0$일 경우 $Nk$ 적합도 경관에서 효과적인 자유도는 무엇에 의해 결정되는가?
• RQ3 스케마의 길이 $l$ 와 상호작용 비트 간의 연결 구조(협동적 비트 상호작용 기반) 중 어느 것이 적합도 향상에 더 큰 영향을 미치는가?
• RQ4 빌딩 블록 가설은 $k=0$ 및 $k=2$ 경관에서 어느 정도 유효하며, 그 정량적 한계는 무엇인가?
• RQ5 선택 임계치와 유한한 개체군 크기는 특정 길이와 비트 수를 가진 스케마의 지배력을 어느 정도 결정하는가?

주요 결과

• $k=0$ 경관에서는 모든 $l$ 에 대해 스케마 재구성 비율이 파괴 비율을 略로 초월하여, 첫 번째 세대에서는 스케마 길이 $l$ 에 관계없이 적합도 기여가 척도 불변 성질을 띤다.
• 첫 번째 세대 이후 스케마 파괴와 재구성 간 균형이 깨지며, $N/2$보다 훨씬 짧거나 긴 스케마가 유리해진다.
• $k>0$ 경관에서는 효과적인 자유도가 스케마 자체가 아니라 상호작용하는 비트들이 연결된 트리 구조이며, 상관관계는 염색체 거리가 아닌 연결 거리에 따라 감소한다.
• 수치 시뮬레이션은 연결 거리에 따라 적합도 상관관계가 감소하는 것으로 나타나 '연결 트리 가설'을 확인한다. 물리적 거리(문자열 상의 거리)는 영향을 미치지 않는다.
• 유한한 크기 효과와 선택 임계치는 $l > N/2$일 때에만 높은 $N_2$(지정된 비트 수)를 가진 매우 적합한 스케마가 유리하게 작용하며, 이는 적합도 증가에서 지배적인 역할을 한다.
• 기존의 GA 설계 지혜와는 반대로, 상호작용하는 비트들을 가까이 놓는 것은 효과적이지 않다. 가장 효과적인 구성은 이러한 비트들이 최대한 서로 떨어져 있을 때이며, 이는 랜덤 코딩의 기본 설정이다.