[논문 리뷰] When Does Hillclimbing Fail on Monotone Functions: An entropy compression argument

Johannes Lengler, Anders Martinsson외 1명|arXiv (Cornell University)|2018. 08. 03.

Metaheuristic Optimization Algorithms Research인용 수 4

한 줄 요약

이 논문은 진화 계산 분야에서 오랫동안 남아있던 열린 문제를 해결한다. $ c \leq 1+\varepsilon $ 인 경우 (1+1) EA가 단조성 pseudo-Boolean 함수를 $ O(n\log^2 n) $ 기대 단계 내에 최적화할 수 있음을 증명하며, 모스의 러브라즈 국소 렘마 알고리즘 증명에 영감을 받은 엔트로피 압축 논증을 사용한다. 결과적으로 $ c=1 $ 에서의 단계 전이가 발생하지 않으며, 이는 이전에 추측된 임계값을 초월해 히어클라이밍의 효율성이 유지됨을 보여준다.

ABSTRACT

Hillclimbing is an essential part of any optimization algorithm. An important benchmark for hillclimbing algorithms on pseudo-Boolean functions $f: \{0,1\}^n o \mathbb{R}$ are (strictly) montone functions, on which a surprising number of hillclimbers fail to be efficient. For example, the $(1+1)$-Evolutionary Algorithm is a standard hillclimber which flips each bit independently with probability $c/n$ in each round. Perhaps surprisingly, this algorithm shows a phase transition: it optimizes any monotone pseudo-boolean function in quasilinear time if $c<1$, but there are monotone functions for which the algorithm needs exponential time if $c>2.2$. But so far it was unclear whether the threshold is at $c=1$. In this paper we show how Moser's entropy compression argument can be adapted to this situation, that is, we show that a long runtime would allow us to encode the random steps of the algorithm with less bits than their entropy. Thus there exists a $c_0 > 1$ such that for all $0

연구 동기 및 목표

• 단조 함수에서 (1+1) EA의 런타임에 $ c=1 $ 에서 단계 전이가 발생하는지 여부를 규명하는 것.
• $ c<1 $ 이외의 영역으로 알려진 준선형 런타임 영역을 확장하여 $ c>1 $ 에서도 효율성이 유지됨을 보이는 것.
• 모스의 엔트로피 압축 논증을 진화 계산에 적용하여, 무작위 탐색 히وري스틱 분석에 있어 그 힘을 입증하는 것.
• 방어적 초기화 조건 하에서도 방문한 탐색 점의 기대 수가 $ O(n) $ 임을 증명하는 것.
• 모든 엄격한 단조 함수에 대해 $ \varepsilon>0 $ 인 $ c \leq 1+\varepsilon $ 에서도 런타임이 효율적임을 확립하는 것.

제안 방법

• 무작위 히어클라이밍 탐색에 대해 모스의 엔트로피 압축 논증을 단조 함수 설정에 적응시키는 것.
• 정보 이론적 모순: 긴 런타임은 무작위 경로를 그 엔트로피 이하로 압축할 수 있게 하며, 이는 불가능함을 의미함.
• 진행 상황 분석을 위해 0비트 수에 따라 단계를 정의함: $ 2^k $ 에서 $ 2^{k-1} $ 으로.
• 조건부 기대값 한계를 적용하여 각 단계당 업데이트 수의 기대값이 $ O(2^k \log n) $ 임을 보이는 것.
• 0비트 수에 대한 마르코프 체인 분석을 통해 0비트 수를 감소시키는 데 소요되는 기대 시간을 제한하는 것.
• 결합 논증을 사용하여, 생존 조건(0으로의 비트 플립 없음)에 조건을 붙여도 기대 비트 플립 수가 증가하지 않음을 보이는 것.

실험 결과

연구 질문

• RQ1 (1+1) EA는 단조 함수를 최적화할 때 $ c=1 $ 에서 런타임에 단계 전이를 보이는가?
• RQ2 엔트로피 압축 기법을 사용하여 단조 함수에서 무작위 탐색 히وري스틱의 효율적 수렴을 증명할 수 있는가?
• RQ3 변이율 $ c>1 $ 에서도 런타임이 준선형인가, 아니면 지수적으로 증가하는가?
• RQ4 모든 단조 함수에 대해 (1+1) EA가 여전히 $ O(n\log^2 n) $ 기대 런타임을 달성하는 데까지 가능한 가장 큰 $ c>1 $ 는 얼마인가?
• RQ5 초기 탐색 점이 방어적으로 선택되더라도 알고리즘이 여전히 효율적인가?

주요 결과

• $ \varepsilon>0 $ 가 존재하여 모든 $ 0<c\leq 1+\varepsilon $ 에 대해 (1+1) EA는 임의의 단조 함수를 $ O(n\log^2 n) $ 기대 단계 내에 최적화한다.
• 초기 점이 방어적으로 선택되더라도 방문한 탐색 점의 기대 수는 $ O(n) $ 이다.
• 런타임 한계는 모든 단조 함수에 대해 균일하게 유지되며, $ c>2.2 $ 에서 어려운 것으로 알려진 'HotTopic' 함수를 포함하여 적용된다.
• 엔트로피 압축 논증은 이러한 긴 런타임 경로가 그 엔트로피 이하로 압축될 수 있음을 보여주어 모순을 일으키므로, 긴 런타임이 불가능함을 규명한다.
• 결과적으로 $ c=1 $ 에서 단계 전이가 발생하지 않으며, 이는 문헌에서 이전에 제기된 추측과 정면으로 배치된다.
• 분석 결과 각 단계당 업데이트 단계 수의 기대값이 $ O(2^k \log n) $ 임을 보이고, 총 $ O(\log n) $ 개의 단계가 있으므로 총 런타임은 $ O(n\log^2 n) $ 이다.