[논문 리뷰] High Dimensional Bayesian Optimisation and Bandits via Additive Models

Kirthevasan Kandasamy, Jeff Schneider외 1명|arXiv (Cornell University)|2015. 03. 05.

Advanced Bandit Algorithms Research참고 문헌 26인용 수 132

한 줄 요약

이 논문은 높은 차원 함수를 낮은 차원 성분들의 가산 함수로 모델링함으로써 고차원 함수에 대한 베이지안 최적화 및 밴딧 알고리즘인 Add-GP-UCB를 제안한다. 이러한 구조를 활용함으로써 차원 D에 대해 선형적 의존도를 가지는 오차를 달성하여, 기존의 GP 기반 방법이 실패하는 고차원 환경에서도 효율적인 최적화를 가능하게 한다.

ABSTRACT

Bayesian Optimisation (BO) is a technique used in optimising a $D$-dimensional function which is typically expensive to evaluate. While there have been many successes for BO in low dimensions, scaling it to high dimensions has been notoriously difficult. Existing literature on the topic are under very restrictive settings. In this paper, we identify two key challenges in this endeavour. We tackle these challenges by assuming an additive structure for the function. This setting is substantially more expressive and contains a richer class of functions than previous work. We prove that, for additive functions the regret has only linear dependence on $D$ even though the function depends on all $D$ dimensions. We also demonstrate several other statistical and computational benefits in our framework. Via synthetic examples, a scientific simulation and a face detection problem we demonstrate that our method outperforms naive BO on additive functions and on several examples where the function is not additive.

연구 동기 및 목표

• 표준 방법이 샘플 복잡도가 지수적으로 증가하고 계산적으로 비가능한 고차원 문제에 대해 베이지안 최적화(BO)와 가우시안 프로세스 밴딧(GPB)을 확장하는 데 도전하는 것.
• 통계적 추정의 어려움과 획득 함수 최대화의 계산적 비가역성이라는 두 가지 핵심 과제를 극복하는 것.
• 목적 함수에 가산 구조를 가정하는 프레임워크를 제안하여, 이는 이전의 저차원 부분공간 가정보다 더 표현력이 뛰어나다는 점.
• 이러한 가용 구조를 가정할 경우 오차가 차원 D에 대해 선형적으로 증가함을 보여주며, 이는 표준 GPB에서의 지수적 증가와 비교해 큰 향상이다.
• 비용이 많이 드는 함수 평가가 이루어지는 실세계 응용에 적합한 통계적 표현력과 계산 효율성을 균형 잡은 실용적 알고리즘(Add-GP-UCB)을 개발하는 것.

제안 방법

• 알려지지 않은 함수 f를 D개의 입력 차원의 가산 함수로 모델링하며, 이는 하위 집합의 변수들에 대해 f(x) = Σ f_i(x_i) 형태로 분해된다.
• 각 성분을 개별적으로 GP로 모델링함으로써 전체 모델 복잡도를 감소시키는 가산 가우시안 프로세스(Add-GP)를 사용한다.
• 가용 구조를 활용하여 고차원에서 최적화가 가능하고, 효율적인 탐색-이용 균형을 가능하게 하는 획득 함수(UCB 유형)를 설계한다.
• 전체 차원의 전역 최적화를 피하기 위해, 가용 성분에 대한 랜덤 탐색 또는 국소 최적화를 사용하여 획득 함수를 최적화한다.
• 가용 가정 하에 이론적 오차 경계를 확보하기 위해 가용 GP 모델과 GP-UCB 획득 규칙을 통합한다.
• 진짜 가용 구조가 알려져 있지 않을 경우, 주기적인 성분 분할 재최적화를 통해 부분적 또는 적응형 분해 학습을 허용한다.

실험 결과

연구 질문

• RQ1 진짜 함수가 가용 구조를 가질 경우, 오차가 차원 D에 대해 지수적 증가가 아니라 선형적으로 증가하는가?
• RQ2 목적 함수에 대해 가용 구조를 가정함으로써 고차원 BO 및 밴딧에서 통계적 일致성과 계산적 타당성을 달성할 수 있는가?
• RQ3 Add-GP-UCB의 성능은 비가용 구조 및 실세계 문제에서 표준 GP-UCB와 REMBO와 비교해 어떻게 되는가?
• RQ4 성분 크기 d와 성분 수 M의 선택이 통계적 표현력과 계산 효율성 간의 상호 갈등에 어떤 영향을 미치는가?
• RQ5 가용 가정을 초월해도 실제 비가용 구조 설정에서 표준 BO를 능가할 수 있는가?

주요 결과

• 진짜 함수가 가용일 경우 Add-GP-UCB의 오차는 차원 D에 대해 선형적으로 증가하며, 이는 표준 GPB에서의 지수적 증가와 비교해 큰 향상이다.
• 실험 결과, Add-GP-UCB는 합성 가용 함수에서 표준 GP-UCB와 GP-EI를 능가하며, Viola-Jones 얼굴 검출 작업에서 Add-6/4가 최고 성능을 기록했다.
• 천체물리학적 시뮬레이터에서, d=5와 M=4를 사용한 Add-GP-UCB는 진짜 함수가 엄격히 가용이 아니더라도 REMBO와 표준 BO보다 뛰어난 수렴 성능을 보였다.
• 진짜 함수가 가용이 아닐 경우에도 성능이 우수하여, 모델 잘못 설정에 대한 강건성을 보이며, 특히 적절한 성분 크기 d(예: d ∈ [3,12])를 선택할 경우 뚜렷한 이점이 있다.
• 진짜 분해 구조와 작은 d(예: d=6, M=4)를 사용한 Add-GP-UCB는 모든 벤치마크에서 REMBO와 표준 BO를 일관되게 능가했으며, 22단계 Viola-Jones 캐스케이드 최적화도 포함되었다.
• 저자들은 이론 분석에서 버그(특히 식 14)를 발견했으며, 수정된 버전을 준비 중이지만, 실험 결과는 여전히 제안된 프레임워크와 일관되게 강력하다.