[논문 리뷰] On the convergence of the expected improvement algorithm

Emmanuel Vázquez, Julien Bect|arXiv (Cornell University)|2007. 12. 21.

Gaussian Processes and Bayesian Inference인용 수 14

한 줄 요약

이 논문은 가우시안 프로세스 모델을 사용한 전역 최적화에서 기대 개선 알고리즘의 수렴성을 확립한다. 공분산 함수에 대한 약한 조건 하에서, 이 알고리즘은 커널에 의해 유도되는 재생 핵 힐버트 공간(reproducing kernel Hilbert space)에 속한 함수에 대해 탐색 영역 내에서 조밀한 평가 점의 수열을 생성하며, 사전 분포 하에서 모든 연속 함수에 대해 거의 확실히 그러한 성질을 가진다.

ABSTRACT

paper has been withdrawn from the arXiv. It is now published by Elsevier in the Journal of Statistical Planning and Inference, under the modified title Convergence properties of the expected improvement algorithm with fixed mean and covariance functions. See this http URL An author-generated post-print version is available from the HAL repository of SUPELEC at this http URL Abstract : This paper deals with the convergence of the expected improvement algorithm, a popular global optimization algorithm based on a Gaussian process model of the function to be optimized. The first result is that under some mild hypotheses on the covariance function k of the Gaussian process, the expected improvement algorithm produces a dense sequence of evaluation points in the search domain, when the function to be optimized is in the reproducing kernel Hilbert space generated by k. The second result states that the density property also holds for P-almost all continuous functions, where P is the (prior) probability distribution induced by the Gaussian process.

연구 동기 및 목표

• 기대 개선 알고리즘의 베이지안 최적화에서의 수렴 행동을 분석하는 것.
• 알고리즘이 탐색 영역 내에서 평가 점의 조밀한 수열을 생성하는 조건을 규명하는 것.
• 조밀성 성질이 재생 핵 힐버트 공간에 속한 함수뿐 아니라 사전 분포 하에서 거의 모든 연속 함수에 대해서도 성립함을 확립하는 것.
• 기대 개선 알고리즘의 경험적 성공에 대한 이론적 근거를 제공하는 것.

제안 방법

• 분석은 가우시안 프로세스의 공분산 함수 k와 관련된 재생 핵 힐버트 공간(RKHS) 이론에 기반한다.
• 저자들은 기대 개선 획득 함수와 GP 모델 하에서 사후 평균 및 분산에 대한 의존성을 분석한다.
• 측도 이론적 추론을 사용하여, 선택된 점의 수열이 연속 함수에 대해 P-거의 확실히 조밀함을 보여준다.
• 분석은 공분산 함수의 성질, 특히 부드러움과 정의된 양성(positive definiteness)을 활용한다.
• 수렴은 어떤 점에서도 기대 개선 값이 밀도 있게 샘플링되지 않은 한 0에서 멀리 떨어져 있음을 보여줌으로써 확립된다.
• 분석은 고정된 평균 및 공분산 함수를 가정하며, 이러한 제약 조건 하에서 알고리즘의 샘플링 행동에 집중한다.

실험 결과

연구 질문

• RQ1 기대 개선 알고리즘이 탐색 영역 내에서 평가 점의 조밀한 수열을 생성하는 조건은 무엇인가?
• RQ2 커널에 의해 유도되는 RKHS에 속한 모든 함수에 대해 평가 수열의 조밀성이 성립하는가?
• RQ3 가우시안 프로세스 사전 분포 하에서 P-거의 모든 연속 함수에 대해 조밀성 성질이 유지되는가?
• RQ4 공분산 함수의 선택은 기대 개선 알고리즘의 수렴 행동에 어떤 영향을 미치는가?
• RQ5 목적 함수에 대해 강한 가정 없이도 알고리즘의 이론적 수렴을 보장할 수 있는가?

주요 결과

• 공분산 함수 k에 대해 약한 정규성 조건이 만족되면, 기대 개선 알고리즘은 k에 관련된 RKHS에 속한 목적 함수에 대해 탐색 영역 내에서 조밀한 평가 점 수열을 생성한다.
• 조밀성 성질은 가우시안 프로세스에 의해 유도되는 사전 측도 P 하에서 거의 모든 연속 함수로 확장된다.
• 목적 함수가 연속적이고 GP 사전 분포 하에서 샘플링된다면, 특정 형태에 관계없이 수렴이 보장된다.
• 목적 함수가 RKHS에 속하지 않더라도, 연속적이고 사전 분포가 적절히 설정되어 있다면 결과는 여전히 성립한다.
• 이론적 기초는 실용적인 베이지안 최적화 설정에서 기대 개선 알고리즘의 경험적 강건성에 대한 지원을 제공한다.
• 분석은 알고리즘이 조기에 수렴을 피하고 약한 가정 하에 전체 탐색 영역을 탐색함을 확인한다.