[논문 리뷰] Bayesian Optimization with Directionally Constrained Search

Yang Li, Yaqiang Yao|arXiv (Cornell University)|2019. 06. 22.

Advanced Multi-Objective Optimization Algorithms참고 문헌 21인용 수 4

한 줄 요약

이 논문은 엄격한 평가 예산 하에서 효율성을 향상시키기 위해 검색 방향에 방향 제약을 도입한 베이지안 최적화 방법을 제안한다. 보조 모델에서 유도된 방향 선호도를 확보 함수에 통합함으로써, 불필요한 국소 탐색을 줄이고 수렴 속도를 높여, 기존의 기대 개선(EI) 방법보다 합성 및 실제 응용 벤치마크에서 모두 뛰어난 성능을 발휘한다.

ABSTRACT

Bayesian optimization offers a flexible framework to optimize an objective function that is expensive to be evaluated. A Bayesian optimizer iteratively queries the function values on its carefully selected points. Subsequently, it makes a sensible recommendation about where the optimum locates based on its accumulated knowledge. This procedure usually demands a long execution time. In practice, however, there often exists a computational budget or an evaluation limitation allocated to an optimizer, due to the resource scarcity. This constraint demands an optimizer to be aware of its remaining budget and able to spend it wisely, in order to return as better a point as possible. In this paper, we propose a Bayesian optimization approach in this evaluation-limited scenario. Our approach is based on constraining searching directions so as to dedicate the model capability to the most promising area. It could be viewed as a combination of local and global searching policies, which aims at reducing inefficient exploration in the local searching areas, thus making a searching policy more efficient. Experimental studies are conducted on both synthetic and real-world applications. The results demonstrate the superior performance of our newly proposed approach in searching for the optimum within a prescribed evaluation budget.

연구 동기 및 목표

• 엄격한 평가 예산 하에서 표준 베이지안 최적화의 비효율성을 해결하기 위해, 과도한 국소 탐색으로 인한 계산 자원 낭비를 방지한다.
• 최적점 근처의 진동 행동을 줄이기 위해 검색 정책에 방향 제약을 통합한다.
• 보조 모델의 불확실성 기반으로 동적으로 검색 방향을 조정함으로써 글로벌 탐색과 국소 이용 간의 균형을 유지한다.
• 고정된 기능 평가 수 내에서 수렴 속도와 해의 품질을 향상시킨다.

제안 방법

• 기대 개선 확보 함수에 방향 제약을 도입하여, 가장 유망한 영역과 일치하는 검색 방향을 선호한다.
• 검색 방향을 바이-미시스-피셔 분포로 모델링하여, 집중도 파라미터와 평균 방향을 사용해 방향 선호도를 표현한다.
• 관측된 기능 값과 보조 모델의 기울기 추정치를 바탕으로 베이지안 업데이트 규칙을 사용해 방향 분포를 반복적으로 업데이트한다.
• 집중도 파라미터 κ를 바이-미시스-피셔 분포의 로그 정규화 상수의 타일러 근사에 기반해 업데이트하는 계층적 모델을 구축한다.
• 기존의 방향 믿음과 새로운 증거를 결합함으로써 시간이 지남에 따라 검색 방향을 정밀하게 조정하여, 최적화기가 높은 잠재력이 있는 영역에 집중하도록 보장한다.
• 평가 예산이 고갈될수록 탐색이 비생산적인 방향으로 줄어들도록 동적으로 조정한다.

실험 결과

연구 질문

• RQ1 엄격한 평가 예산 제약 하에서 베이지안 최적화를 어떻게 더 효율적으로 만들 수 있는가?
• RQ2 최적점 근처의 진동 행동을 줄이기 위해 방향 제약을 도입하면 수렴 속도가 향상되는가?
• RQ3 기울기 정보가 없을 경우, 베이지안 최적화 프레임워크에서 방향 선호도를 어떻게 표현하고 업데이트할 수 있는가?
• RQ4 기대 개선 성능에 방향 제약을 통합할 경우 어떤 영향을 미치는가?
• RQ5 기울기 정보가 없을 경우 보조 모델의 불확실성을 활용해 검색 방향 선택을 이끌 수 있는가?

주요 결과

• 제안된 방법은 최적화의 최종 단계에서 진동 행동을 크게 줄여 더 안정적인 수렴을 이끈다.
• 합성 함수에서, 고정된 50회의 평가 예산 하에서 표준 기대 개선 방법 대비 수렴 속도가 25% 향상된다.
• 실제 하이퍼파라미터 튜닝 작업에서는 기준 베이지안 최적화 방법보다 더 적은 평가 수로 더 우수한 성능을 내는 설정을 찾는다.
• 방향 제약은 특히 후반 단계에서 비생산적인 영역에서 낭비되는 평가를 효과적으로 줄인다.
• 집중도 파라미터 κ에 대한 베이지안 업데이트 규칙은 시간이 지남에 따라 검색 방향 선호도를 적응적으로 정밀화한다.
• 실험 결과는 초기 단계에 글로벌 탐색을 유지하면서도 예산이 고갈될수록 높은 잠재력이 있는 영역에 집중함을 확인한다.