[논문 리뷰] General Drift Analysis with Tail Bounds

Per Kristian Lehre, Carsten Witt|arXiv (Cornell University)|2013. 07. 09.

Optimization and Search Problems참고 문헌 27인용 수 32

한 줄 요약

이 논문은 변수 이송을 갖는 확률적 과정에 대해 상하 꼬리 경계를 갖는 일반적인 이송 정리(드리프트 정리)를 제안하며, 도달 시간의 정밀한 농도 부등식을 가능하게 한다. 이는 (1+1) EA가 OneMax, LeadingOnes 및 선형 함수에서 최적화 시간이 기대값 주변에 날카럽게 농도됨을 증명하며, 이격 요인 r에 대해 꼬리 확률이 지수적으로 감소함을 보여준다. 이는 위치에 의존하는 이송 조건이 존재하더라도 성립한다.

ABSTRACT

Drift analysis is one of the state-of-the-art techniques for the runtime analysis of randomized search heuristics (RSHs) such as evolutionary algorithms (EAs), simulated annealing etc. The vast majority of existing drift theorems yield bounds on the expected value of the hitting time for a target state, e.g., the set of optimal solutions, without making additional statements on the distribution of this time. We address this lack by providing a general drift theorem that includes bounds on the upper and lower tail of the hitting time distribution. The new tail bounds are applied to prove very precise sharp-concentration results on the running time of a simple EA on standard benchmark problems, including the class of general linear functions. Surprisingly, the probability of deviating by an $r$-factor in lower order terms of the expected time decreases exponentially with $r$ on all these problems. The usefulness of the theorem outside the theory of RSHs is demonstrated by deriving tail bounds on the number of cycles in random permutations. All these results handle a position-dependent (variable) drift that was not covered by previous drift theorems with tail bounds. Moreover, our theorem can be specialized into virtually all existing drift theorems with drift towards the target from the literature. Finally, user-friendly specializations of the general drift theorem are given.

연구 동기 및 목표

• 랜덤 탐색 히وري스틱(RSH)에 대해 기존의 이송 정리에서 꼬리 경계가 부족한 문제를 해결하기 위해, 특히 변수 이송에 대해.
• 기존의 이송 정리(가산형, 곱형, 피트니스-레벨 방법 포함)를 일반화하는 통합 프레임워크를 제공하기 위해.
• 특히 (1+1) EA가 기준 문제에서 도달 시간 분포에 대해 날카로운 농도 부등식을 도출하기 위해.
• 이송 분석의 적용 범위를 RSH를 넘어서 확장하여, 랜덤 순열에서의 순환 수 분석에 응용함을 보여주기 위해.
• 실제 런타임 분석에 활용 가능한 사용자 우호적인 일반 정리의 특수화를 제공하기 위해.

제안 방법

• 도달 시간의 꼬리 확률을 제한하기 위해 리아푸노프 함수와 모멘트 생성 함수를 기반으로 한 일반적인 이송 정리를 제안한다.
• 일반적으로 증가하는 함수 g를 통한 변환을 통해 변수 이송 조건을 지수적 모멘트 제한에 적합한 형태로 변환한다.
• g(X_t)의 한 단계 변화의 모멘트 생성 함수를 제어함으로써 변환된 과정에 초크라프 유사 부등식을 적용한다.
• 지수적 부등식을 통해 λ 및 η 매개변수를 최적화하여 상하 꼬리 경계를 유도한다.
• 적절한 g-함수를 구성함으로써 OneMax, LeadingOnes 및 선형 함수와 같은 특정 문제에 일반 정리를 특수화한다.
• 변수 이송을 갖는 감소하는 확률적 과정으로 모델링함으로써, 랜덤 순열에서의 순환 수와 같은 확률적 재귀관계에 정리를 적용한다.

실험 결과

연구 질문

• RQ1 변수 이송 조건 하에서 도달 시간의 상하 꼬리 경계를 제공하는 일반적인 이송 정리를 개발할 수 있는가?
• RQ2 이러한 정리는 어떻게 기존의 이송 정리들(가산형, 곱형, 피트니스-레벨 방법 포함)을 복원할 수 있는가?
• RQ3 표준 기준 문제에서 (1+1) EA의 최적화 시간이 기대값 주변에 얼마나 날카롭게 농도되는가?
• RQ4 새로운 이송 정리는 RSH를 초월하여, 예를 들어 순열에서의 순환 수와 같은 고전적 확률적 재귀관계에 적용될 수 있는가?
• RQ5 기대 최적화 시간의 고차항에서의 이격에 대해 꼬리 확률의 감쇠 속도는 어느 정도인가?

주요 결과

• (1+1) EA는 OneMax, LeadingOnes 및 일반 선형 함수에서 날카로운 농도를 보이며, 고차항에서의 r 요인만큼의 이격에 대해 확률이 r에 대해 지수적으로 감소한다.
• OneMax에서 (1+1) EA의 하부 꼬리 확률 Pr(T₀ < (1−ε)ln n)는 e⁻ᴼ⁽ⁿ⁾로 유계이며, 상부 꼬리 확률 Pr(T₀ > (1+ε)ln n) 역시 e⁻ᴼ⁽ⁿ⁾로 유계이므로, 기대값 주변에 강한 농도가 있음을 보여준다.
• n개 원소로 이루어진 랜덤 순열에서의 순환 수는 기대값 ln n 주변에 날카롭게 농도되며, 꼬리 확률이 이격에 대해 지수적으로 감소한다.
• 일반 이송 정리는 적절한 매개변수화를 통해 모든 알려진 변수, 가산형, 곱형 이송 정리 및 피트니스-레벨 방법을 포함한다.
• 비점근적이고 사용자 우호적인 경계를 제공하며, 이는 위치에 의존하고 비정수인 이송 조건이 존재하더라도 효과적으로 작용한다.
• 유도된 경계는 날카롭고, (1+1) EA의 런타임이 매우 예측 가능하며, 탐색 과정에서의 높은 무작위성에도 불구하고 큰 이격이 드물게 발생함을 드러낸다.