[논문 리뷰] Convergence properties of the expected improvement algorithm

Emmanuel Vázquez, Julien Bect|arXiv (Cornell University)|2007. 12. 21.

Machine Learning and Data Classification인용 수 11

한 줄 요약

이 논문은 가우시안 프로세스 모델을 사용한 베이지안 최적화에서 기대 개선 알고리즘의 수렴 성질을 수립한다. 공분산 함수에 대한 약한 조건이 만족될 경우, 이 알고리즘은 커널에 의해 유도되는 재생 핵 힐버트 공간(reproducing kernel Hilbert space)에 속한 함수에 대해 검색 영역 내에서 조밀한 평가 점의 수열을 생성하며, 사전 분포 하에서 모든 연속 함수에 대해 거의 확실하게 수렴함을 증명한다.

ABSTRACT

This paper has been withdrawn from the arXiv. It is now published by Elsevier in the Journal of Statistical Planning and Inference, under the modified title "Convergence properties of the expected improvement algorithm with fixed mean and covariance functions". See http://dx.doi.org/10.1016/j.jspi.2010.04.018 An author-generated post-print version is available from the HAL repository of SUPELEC at http://hal-supelec.archives-ouvertes.fr/hal-00217562 Abstract : "This paper deals with the convergence of the expected improvement algorithm, a popular global optimization algorithm based on a Gaussian process model of the function to be optimized. The first result is that under some mild hypotheses on the covariance function k of the Gaussian process, the expected improvement algorithm produces a dense sequence of evaluation points in the search domain, when the function to be optimized is in the reproducing kernel Hilbert space generated by k. The second result states that the density property also holds for P-almost all continuous functions, where P is the (prior) probability distribution induced by the Gaussian process."

연구 동기 및 목표

• 전역 최적화에서 기대 개선 알고리즘의 이론적 수렴 보장을 수립하기 위해.
• 알고리즘이 검색 영역 내에서 평가 점의 조밀한 수열을 생성하는지 조사하기 위해.
• 커널과 관련된 재생 핵 힐버트 공간에 속한 함수에 대한 수렴 행동을 규명하기 위해.
• 수렴 결과를 가우시안 프로세스 사전 측도 하에서 거의 모든 연속 함수로 확장하기 위해.

제안 방법

• 알 수 없는 목적 함수를 모델링하기 위해 고정된 평균과 공분산 함수 k를 가진 가우시안 프로세스 모델을 사용한다.
• 새로운 평가 점을 순차적으로 선택하기 위해 기대 개선 획득 함수를 적용한다.
• 특히 재생 핵 힐버트 공간(RKHS) 이론을 포함한 함수해석학 도구를 사용하여 수렴성을 분석한다.
• 가우시안 프로세스에 의해 유도되는 사전 확률 측도 P를 활용하여 연속 함수 위에서 거의 확실한 수렴을 연구한다.
• 위상적 및 측도 이론적 추론을 사용하여 검색 영역 내 샘플된 점들의 수열의 조밀성을 분석한다.
• 공분산 함수 k에 대한 온건한 정규성 조건(예: 연속성 및 정의 양성) 하에서 수렴을 확립한다.

실험 결과

연구 질문

• RQ1 기대 개선 알고리즘이 어떤 조건에서 검색 영역 내에서 평가 점의 조밀한 수열을 생성하는가?
• RQ2 이 알고리즘이 커널 k에 의해 생성된 재생 핵 힐버트 공간에 속한 모든 함수에 대해 수렴하는가?
• RQ3 가우시안 프로세스 사전 하에서 거의 모든 연속 함수에 대해 평가 점의 조밀성이 유지되는가?
• RQ4 공분산 함수의 성질이 알고리즘의 수렴 행동에 어떤 영향을 미치는가?
• RQ5 수렴 결과를 RKHS를 초월하여 더 넓은 연속 함수의 클래스로 확장할 수 있는가?

주요 결과

• 공분산 함수 k에 대한 온건한 가정 하에서, 목적 함수가 k에 의해 유도되는 재생 핵 힐버트 공간에 속해 있을 경우 기대 개선 알고리즘은 검색 영역 내에서 조밀한 평가 점의 수열을 생성한다.
• 이 조밀성 성질은 가우시안 프로세스에 의해 유도되는 사전 확률 측도 P 하에서 거의 모든 연속 함수에 대해 성립한다.
• 평균 함수의 선택에 관계없이 수렴 결과가 안정적이며, 공분산 함수가 온건한 정규성 조건을 만족할 경우에 한해 성립한다.
• 이론적 기반은 알고리즘이 검색 공간을 철저히 탐색함을 보장하여 전역 최적화에서의 활용을 뒷받침한다.
• 기대 개선의 경험적 성공에 대한 엄밀한 정당성을 제공한다.
• 이러한 결과는 局부 수렴을 초월하여 전역 탐색 성질까지 확장된 순차적 베이지안 최적화의 이론적 이해를 심화시킨다.