[논문 리뷰] Bayesian Optimization with Shape Constraints

Michael Jauch, Víctor Peña|arXiv (Cornell University)|2016. 12. 28.

Advanced Multi-Objective Optimization Algorithms참고 문헌 11인용 수 5

한 줄 요약

이 논문은 초모수 조정 및 의사결정 분석에서 최적화 효율성을 향상시키기 위해 가우시안 프로세스 사전분포에 형태 제약 조건(예: 단조성, 볼록성, 준볼록성)을 통합하는 베이지안 최적화 프레임워크를 제안한다. 부분 도함수에 대한 제약 조건을 이산 점들에서 강제 적용함으로써 추론의 안정성과 수렴 속도를 향상시키며, 서포트 벡터 머신(SVM)의 초모수 조정과 이항 표본 크기 선택 문제에서 비형상 제약이 없는 베이지안 최적화보다 뛰어난 성능을 보인다.

ABSTRACT

In typical applications of Bayesian optimization, minimal assumptions are made about the objective function being optimized. This is true even when researchers have prior information about the shape of the function with respect to one or more argument. We make the case that shape constraints are often appropriate in at least two important application areas of Bayesian optimization: (1) hyperparameter tuning of machine learning algorithms and (2) decision analysis with utility functions. We describe a methodology for incorporating a variety of shape constraints within the usual Bayesian optimization framework and present positive results from simple applications which suggest that Bayesian optimization with shape constraints is a promising topic for further research.

연구 동기 및 목표

• 표준 베이지안 최적화에서 형태 인식 사전분포의 부재를 해결하기 위해, 특히 함수 형태에 대한 사전 지식이 존재할 경우에 유용하게 활용할 수 있도록 한다.
• 정규화 파rameter에 대한 준볼록성 제약 조건을 통합함으로써 기계학습 모델의 초모수 조정에서 최적화 효율성을 향상시키기 위해 노력한다.
• 합리적 선택 이론에 기반한 단조성 및 볼록성 제약 조건을 도입함으로써 유틸리티 함수를 통한 의사결정 분석을 향상시키기 위해 노력한다.
• 경로적으로 제약이 걸린 표본 경로를 피하기 위해 이산 점들에서 도함수 조건을 통해 형태 제약 조건을 강제 적용하는 실용적인 GP 기반 프레임워크를 개발한다.
• 형태 제약이 있는 베이지안 최적화가 비형상 제약이 없는 방법보다 수렴 속도와 강건성 측면에서 뛰어나다는 것을 경험적으로 입증한다.

제안 방법

• 유연하고 정규화된 GP 모델링을 가능하게 하기 위해 초모수에 계층적 캐시 prior를 사용하는 제곱합성 커널을 사용한다.
• 함수의 부분 도함수에 대한 제약 조건(단조성, 볼록성, 준볼록성)을 이산 점들의 집합에서 강제 적용함으로써 형태 제약 조건을 구현하며, 도함수 과정의 연합 정규분포 성질을 활용한다.
• 제약 조건을 충족하는 표본 경로를 생성하기 위해 거절 샘플링과 截단 정규분포 샘플링(패키지 TruncatedNormal 사용)을 적용한다.
• 계산 효율성을 확보하기 위해 스탠(Stan)에서 추출한 사후 중앙값을 활용하여 초모수 추정에 부분 우도 접근법을 사용한다.
• 획득 함수로 기대 개선도를 사용하며, 관측된 데이터 점들과 100개의 추가 최대-최소 라틴 초입체 설계 점들에서 제약 조건을 강제 적용한다.
• 함수 및 도함수 평가의 연합 공분산 행렬을 식 (1)을 사용하여 구성함으로써, 제약 조건 하에서 다변량 정규분포 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 준볼록성과 같은 형태 제약 조건이 초모수 조정 문제에서 베이지안 최적화의 수렴성과 강건성에 기여하는가?
• RQ2 기대 유틸리티 표면에 볼록성 또는 단조성을 강제 적용할 경우, 베이지안 실험 설계의 성능에 어떤 영향을 미치는가?
• RQ3 표본 경로를 과도하게 제약하지 않고도 GP에 대한 도함수 기반 제약 조건이 전반적인 형태 행동을 얼마나 잘 근사할 수 있는가?
• RQ4 일반화 오차 곡선이 U자 형태임을 사전 지식으로 통합할 경우, SVM 초모수 조정이 더 빠르고 신뢰할 수 있게 개선되는가?
• RQ5 불확실성 감소와 최소 기대 손실 측면에서 형태 제약이 있는 베이지안 최적화가 비형상 제약이 없는 방법보다 어떻게 비교되는가?

주요 결과

• 이항 표본 크기 문제에서 형태 제약이 있는 GP는 50개의 랜덤 시작점에 걸쳐 비형상 제약이 없는 GP보다 더 낮은 최소 사후 기대 손실을 달성하며, 더 뛰어난 강건성을 보였다.
• SVM 초모수 조정 실험에서 준볼록성 제약이 있는 GP는 비형상 제약이 없는 경우보다 더 빨리 수렴했고, 교차검증 오차 추정치의 불확실성도 낮췄다.
• 형태 제약 조건이 전역 외삽을 가능하게 하여 초기 반복 단계에서 특히 더 빠른 수렴과 감소된 사후 분산을 달성함으로써, 제약이 있는 GP는 더 나은 성능을 보였다.
• 100개의 위치에서 부분 도함수를 제약 조건으로 설정함으로써 SVM 오차 표면에 준볼록성을 성공적으로 강제 적용하여 더 신뢰할 수 있는 최적화 경로를 확보했다.
• 거절 샘플링을 통한 준볼록성 제약 조건 적용이 실험에서 실용적인 응용에 충분히 계산 효율적이었다.
• 결과적으로 형태 제약 조건이 유틸리티 함수의 체계적 수집 편향을 수정하고, 노이즈가 많고 고차원적인 환경에서 최적화의 안정성을 향상시킬 수 있음을 시사한다.