[논문 리뷰] Active Multi-Information Source Bayesian Quadrature

Alexandra Gessner, Javier González외 1명|arXiv (Cornell University)|2019. 03. 27.

Gaussian Processes and Bayesian Inference참고 문헌 27인용 수 5

한 줄 요약

이 논문은 비용이 많이 들지만 평가가 어려운 함수의 통합을 위한 표본 효율적인 방법인 Active Multi-Information Source Bayesian Quadrature (AMS-BQ)를 소개한다. 이 방법은 평가 비용이 낮은 관련된 보조 정보 소스를 능동적으로 활용함으로써, 표준 베이지안 적분법보다 더 높은 예산 효율성을 달성한다. 특히 평가 비용을 고려한 일반화된 취득 함수를 도입함으로써, 목표 정확도에 도달하기 위해 필요한 고비용 주요 함수 평가 횟수를 줄였다. 개념 증명 실험에서 성능 향상을 확인하였다.

ABSTRACT

Bayesian quadrature (BQ) is a sample-efficient probabilistic numerical method to solve integrals of expensive-to-evaluate black-box functions, yet so far,active BQ learning schemes focus merely on the integrand itself as information source, and do not allow for information transfer from cheaper, related functions. Here, we set the scene for active learning in BQ when multiple related information sources of variable cost (in input and source) are accessible. This setting arises for example when evaluating the integrand requires a complex simulation to be run that can be approximated by simulating at lower levels of sophistication and at lesser expense. We construct meaningful cost-sensitive multi-source acquisition rates as an extension to common utility functions from vanilla BQ (VBQ),and discuss pitfalls that arise from blindly generalizing. Furthermore, we show that the VBQ acquisition policy is a corner-case of all considered cost-sensitive acquisition schemes, which collapse onto one single de-generate policy in the case of one source and constant cost. In proof-of-concept experiments we scrutinize the behavior of our generalized acquisition functions. On an epidemiological model, we demonstrate that active multi-source BQ (AMS-BQ) allocates budget more efficiently than VBQ for learning the integral to a good accuracy.

연구 동기 및 목표

• 표본 효율성을 향상시키기 위해 다수의 저비용이고 관련된 정보 소스를 통합하는 능동 학습 프레임워크를 개발하는 것.
• 표준 베이지안 적분법이 주로 주어진 피적분 함수만 사용하고 저비용이지만 관련된 함수를 忽시한다는 한계를 해결하는 것.
• 다양한 소스 간의 평가 비용과 통합 추정 향상 사이의 균형을 고려한 비용 감수성 취득 함수를 체계화하는 것.
• 다양한 소스 설정에서 비용 고려를 반영한 취득 함수를 일반화할 때 발생할 수 있는 병리적 행동을 식별하고 분석하는 것.
• AMS-BQ가 실제 시뮬레이션 과제에서 표준 베이지안 적분법보다 계산 예산을 더 효율적으로 할당하는지 경험적으로 검증하는 것.

제안 방법

• 다중 출력 가우시안 프로세스를 사용하여 주요 함수와 관련된 다수의 함수를 공유되거나 상관관계가 있는 구조로 모델링함으로써 표준 베이지안 적분법을 확장한다.
• 각 소스의 평가 비용과 통합 추정 향상 사이의 트레이드오���을 고려한 비용 감수성 취득 함수를 도입하여 단위 비용당 기대 정보 이득을 최적화한다.
• 예측 분산과 각 소스의 평가 비용을 모두 포함한 일반화된 유틸리티 함수를 사용하여 비용 감수성 능동 학습을 가능하게 한다.
• 주요 소스와 보조 소스 간의 공동 사전 분포를 설정하고, 공유 구조나 상관관계를 모델링하기 위해 공역성 행렬(코어기오니제이션 매트릭스)을 활용한다.
• 취득 함수의 최댓값을 구하여 다음 평가 지점을 선택하는 능동 학습을 적용하며, 비용 조정된 유틸리티에 따라 주요 소스 또는 보조 소스 중 하나를 선택한다.
• 보조 소스가 주요 함수의 저해상도 시뮬레이션 또는 단순화된 모델과 같이 저비용 근사치로 간주되는 계층적 모델을 구현한다.

실험 결과

연구 질문

• RQ1 평가 비용을 고려하면서도 다수의 저비용이고 관련된 정보 소스를 활용하는 능동 베이지안 적분법을 어떻게 확장할 수 있는가?
• RQ2 다양한 소스에서의 취득 함수에 비용을 통합할 경우의 영향은 무엇이며, 이는 취득 정책에 어떤 영향을 미치는가?
• RQ3 다양한 소스 설정에서 효율적이고 병리적이지 않은 정책을 도출하는 취득 함수 설계는 무엇이며, 어떤 설계는 열악하거나 직관에 어긋난 행동을 유도하는가?
• RQ4 비용 감수성 취득 함수는 목표 통합 정확도에 도달하기 위해 필요한 고비용 주요 함수 평가 횟수를 크게 줄일 수 있는가?
• RQ5 실제로 계산 비용이 많이 드는 시뮬레이션 과제에서 능동 다중 소스 베이지안 적분법의 성능은 표준 베이지안 적분법과 비교하여 어떻게 되는가?

주요 결과

• AMS-BQ는 목표 정확도에 도달하기 위해 필요한 고비용 주요 함수 평가 횟수를 줄였으며, 전염병 모델 실험에서 표준 베이지안 적분법이 6회 평가가 필요한 데 비해 AMS-BQ는 단 1회 추가 평가만으로도 충분했다.
• AMS-BQ 추정기의 상대 오차는 비용 정규화 값 ≈ 0.3일 때 1% 이하로 떨어졌으며, 비용 효율성 측면에서 표준 베이지안 적분법과 몬테카를로 추정기보다 뛰어난 성능을 보였다.
• 유틸리티 함수에 비용을 적절히 반영하지 않을 경우 병리적 취득 정책이 나타나는 것으로 확인되었으며, 이는 다중 소스 환경에서 비용 감수성 설계의 필요성을 강조한다.
• 표준 베이지안 적분법에서는 모든 취득 함수가 동일한 열악한 정책을 유도하는 데 비해, AMS-BQ의 비용 감수성 취득 함수는 유틸리티 수식에 따라 다양한 의미 있는 정책을 도출한다.
• 초기 통합 추정치의 높은 신뢰도는 출력 스케일에 대한 사전분포와 입력 분포의 꼬리 부분에 위치한 첫 번째 주요 평가 지점에 기인한다.
• 보조 소스의 평가 지점은 주로 주요 소스와의 상관관계를 향상시키기 위해 전략적으로 배치되어 반복적인 고비용 주요 평가의 필요성을 줄였다.