[논문 리뷰] Bayesian Optimization with High-Dimensional Outputs

Wesley J. Maddox, Maximilian Balandat외 2명|arXiv (Cornell University)|2021. 06. 24.

Gaussian Processes and Bayesian Inference참고 문헌 62인용 수 9

한 줄 요약

이 논문은 크로네커 구조와 매서론의 법칙을 활용하여 다중 작업 가우시안 프로세스(MTGP)의 정확하고 확장 가능한 샘플링 방법을 제안한다. 이는 계산 복잡도를 O(n³t³)에서 O(n³ + t³)로 감소시켜 고차원 출력을 가진 다중 작업 가우시안 프로세스에 대해 효율적인 베이지안 최적화를 가능하게 한다. 이 방법은 수천 개의 상관관계가 있는 출력에 대한 최적화를 가능하게 하며, 셀 타워 커버리지 및 광학 간섭계 거울 설정 최적화와 같은 실제 문제에 적용되어, 집합적 지표 접근 방식에 비해 뛰어난 샘플 효율성과 성능을 보였다.

ABSTRACT

Bayesian Optimization is a sample-efficient black-box optimization procedure that is typically applied to problems with a small number of independent objectives. However, in practice we often wish to optimize objectives defined over many correlated outcomes (or "tasks"). For example, scientists may want to optimize the coverage of a cell tower network across a dense grid of locations. Similarly, engineers may seek to balance the performance of a robot across dozens of different environments via constrained or robust optimization. However, the Gaussian Process (GP) models typically used as probabilistic surrogates for multi-task Bayesian Optimization scale poorly with the number of outcomes, greatly limiting applicability. We devise an efficient technique for exact multi-task GP sampling that combines exploiting Kronecker structure in the covariance matrices with Matheron's identity, allowing us to perform Bayesian Optimization using exact multi-task GP models with tens of thousands of correlated outputs. In doing so, we achieve substantial improvements in sample efficiency compared to existing approaches that only model aggregate functions of the outcomes. We demonstrate how this unlocks a new class of applications for Bayesian Optimization across a range of tasks in science and engineering, including optimizing interference patterns of an optical interferometer with more than 65,000 outputs.

연구 동기 및 목표

• 고차원 출력(예: 이미지 또는 공간 그리드)을 처리할 때 기존 다중 작업 베이지안 최적화 방법의 낮은 확장성 문제를 해결하기 위해.
• 표준 방법으로는 비가역적인 수천만 개의 상관관계가 있는 결과를 가진 다중 작업 가우시안 프로세스(MTGP)에서 정확한 사후 샘플링을 가능하게 하기 위해.
• 집합적 지표가 아닌 개별 출력을 모델링함으로써 복합 베이지안 최적화의 샘플 효율성을 향상시키기 위해.
• 효율적인 사후 샘플링을 통해 고차원 출력 최적화에 대한 고순서 가우시안 프로세스(HOGP) 모델의 적용 가능성을 확장하기 위해.
• 공간적으로 상관관계가 있는 출력을 포함한 실제 문제, 예를 들어 무선 주파수 커버리지 및 광학 간섭계와 같은 문제에서 방법의 효과성을 입증하기 위해.

제안 방법

• 유도점이나 무작위 특징에 의존하지 않고, 정확한 사후 샘플링을 가능하게 하는 매서론의 법칙을 활용한다.
• MTGP의 사후 공분산 행렬에 내재된 크로네커 구조를 활용하여 샘플링 복잡도를 O(n³t³)에서 O(n³ + t³)로 감소시킨다.
• 유도된 샘플링 기법을 고순서 가우시안 프로세스(HOGP) 모델에 적용하여 고차원 출력 최적화를 위한 정확한 사후 샘플링을 가능하게 한다.
• 베이지안 최적화에서 몬테카를로 획득 함수를 사용하며, 제안된 방법을 통해 효율적으로 사후 샘플을 추출하여 기대 개선도를 추정한다.
• 제한된 하드웨어 자원 조건 하에서 배치 샘플링을 수행하며, GPU 클러스터의 계산 부담을 관리하기 위해 32~64개의 몬테카를로 샘플과 배치 제한을 사용한다.
• 표준 베이지안 최적화 파이프라인에 방법을 통합하여, 집합적 지표 최적화를 대체로 모든 상관관계가 있는 출력을 함께 모델링하는 방식을 구현한다.

실험 결과

연구 질문

• RQ1 수천만 개의 상관관계가 있는 출력을 가진 문제에서 다중 작업 가우시안 프로세스에서 정확한 사후 샘플링을 계산적으로 가능하게 할 수 있는가?
• RQ2 복합 베이지안 최적화 프레임워크에서 개별 출력을 모델링하는 것이 집합적 지표 최적화에 비해 더 높은 샘플 효율성을 제공하는가?
• RQ3 제안된 방법이 고차원 출력 공간을 가진 실제 문제, 예를 들어 공간적 신호 커버리지 또는 이미지 기반 최적화와 같은 문제에 확장 가능한가?
• RQ4 정확한 샘플링을 사용한 HOGP 모델 기반의 베이지안 최적화 성능은 기존 방법에 비해 수렴 속도와 최종 목표 함수 값 측면에서 어떻게 비교되는가?
• RQ5 사후 공분산 행렬의 크로네커 구조가 다중 작업 GP 모델에서 확장 가능한 샘플링을 얼마나 잘 가능하게 하는가?

주요 결과

• 제안된 방법은 65,000개의 상관관계가 있는 출력을 가진 MTGP에서 정확한 사후 샘플링을 달성하여 대규모 복합 베이지안 최적화를 가능하게 하였다.
• 무선 주파수 커버리지 문제에서 HOGP + GP 모델은 집합적 지표 최적화에 비해 분산을 감소시키고 더 나은 신호 커버리지를 달성하였으며, 가시도 측면에서 목표 값이 약 0.44에서 약 0.94로 증가하였다.
• 광학 간섭계 문제에서 HOGP 모델을 사용한 복합 베이지안 최적화는 가시도 0.94를 달성하였으며, 표준 EI를 사용한 집합적 지표 최적화의 경우 약 0.44, 무작위 초기화의 경우 약 3e-5에 그쳤다.
• 계산 복잡도는 O(n³t³)에서 O(n³ + t³)로 감소하여 5,000개 이상의 작업과 2,500개 이상의 데이터 포인트가 있는 경우에도 효율적인 샘플링이 가능해졌다.
• 커버리지 및 광학 문제 양쪽 모두에서 HOGP + GP 모델은 집합적 지표에 대한 표준 EI에 비해 더 높은 샘플 효율성과 더 나은 최종 해를 보였다.
• 이 방법은 65,000개 이상의 출력을 가진 문제에서 정확한 MTGP 샘플링을 통한 복합 베이지안 최적화의 첫 번째 실증을 가능하게 하여 과학 및 공학 분야에서 새로운 응용 가능성을 열었다.