[논문 리뷰] Bayesian Optimisation vs. Input Uncertainty Reduction

Juan Ungredda, Michael Pearce외 1명|arXiv (Cornell University)|2020. 05. 31.

Simulation Techniques and Applications참고 문헌 8인용 수 4

한 줄 요약

이 논문은 입력 불확실성을 줄이고 해법 품질을 햖스키기 위해 시뮬레이션 실행과 실제 세계 데이터 수집 간에 동적으로 균형을 이루는 새로운 베이지안 최적화 프레임워크인 베이지안 정보 수집 및 최적화(BICO)를 제안한다. 정보의 가치 접근법을 사용함으로써 BICO는 각 반복에서 시뮬레이션 또는 데이터 수집 중 어느 쪽을 선택할지 자동으로 결정하며, 최적의 자원 할당 비율을 사전에 알지 못하더라도 고정된 자원 할당 전략에 준하는 성능을 달성한다.

ABSTRACT

Simulators often require calibration inputs estimated from real world data and the quality of the estimate can significantly affect simulation output. Particularly when performing simulation optimisation to find an optimal solution, the uncertainty in the inputs significantly affects the quality of the found solution. One remedy is to search for the solution that has the best performance on average over the uncertain range of inputs yielding an optimal compromise solution. We consider the more general setting where a user may choose between either running simulations or instead collecting real world data. A user may choose an input and a solution and observe the simulation output, or instead query an external data source improving the input estimate enabling the search for a more focused, less compromised solution. We explicitly examine the trade-off between simulation and real data collection in order to find the optimal solution of the simulator with the true inputs. Using a value of information procedure, we propose a novel unified simulation optimisation procedure called Bayesian Information Collection and Optimisation (BICO) that, in each iteration, automatically determines which of the two actions (running simulations or data collection) is more beneficial. Numerical experiments demonstrate that the proposed algorithm is able to automatically determine an appropriate balance between optimisation and data collection.

연구 동기 및 목표

• 입력 불확실성 문제를 해결하기 위해, 정확하지 않은 입력 파라미터가 해법 품질을 떨어뜨리는 시뮬레이션 최적화 환경에서의 도전 과제를 다루는 것.
• 지능적으로 시뮬레이션 실험과 실제 세계 데이터 수집 간의 균형을 맞추어 해법의 강건성을 향상시키는 통합 프레임워크를 개발하는 것.
• 제한된 자원을 시뮬레이션과 데이터 수집 간에 자동으로 적응적으로 할당하여, 비최적의 고정 예산 분할을 피하는 것.
• 베이지안 추론과 가우시안 프로세스를 사용하여 시뮬레이터 입력의 불확실성을 모델링하고 감소시키는 것.
• 제안된 방법의 성능을 합성 및 실제 세계 시뮬레이션 문제에서 고정 할당 전략과 비교 평가하는 것.

제안 방법

• BICO는 가우시안 프로세스를 사용하여 시뮬레이터 반응과 입력 파라미터의 불확실성 양쪽을 모두 모델링하는 베이지안 프레임워크를 사용한다.
• 정보의 가치 기준을 적용하여, 시뮬레이션을 실행하거나 실제 세계 데이터를 수집함으로써 해법 품질이 얼마나 향상될지를 기대값으로 계산한다.
• 각 반복에서 BICO는 최적 해법의 기대 향상도를 최대화하는 행동—즉, 시뮬레이션 또는 데이터 수집 중 하나를 선택한다.
• 이 방법은 해 공간과 입력 파rameter 공간에 대한 공동 서로서비스 모델을 사용하며, 순차적 베이지안 추론을 통해 신념을 갱신한다.
• 시뮬레이터 출력의 불확실성과 입력 파rameter의 불확실성을 모두 고려한 지식 기반 경사도 유사의 획득 함수를 사용한다.
• 입력 불확실성 하에서 기대 향상도를 효율적으로 계산하여 실시간 의사결정을 가능하게 하는 효율적인 알고리즘 구현을 한다.

실험 결과

연구 질문

• RQ1 통합된 베이지안 최적화 프레임워크는 입력 불확실성 하에서 시뮬레이션과 데이터 수집을 자동으로 균형 잡아 해법 품질을 향상시킬 수 있는가?
• RQ2 BICO의 성능는 자원을 사전에 데이터 수집에 할당하는 고정 예산 할당 전략보다 어떻게 비교되는가?
• RQ3 해법 품질과 자원 효율성 측면에서 시뮬레이션 노력과 데이터 수집 간의 최적 트레이드오프는 무엇인가?
• RQ4 입력 불확실성이 높을 때 BICO는 자동으로 더 많은 자원을 데이터 수집에 할당하고, 입력이 잘 추정되었을 땐 시뮬레이션에 더 많은 자원을 할당하는가?
• RQ5 BICO는 데이터와 시뮬레이션 사이의 최적 할당 비율을 사전에 알지 못하더라도 거의 최적의 성능을 달성할 수 있는가?

주요 결과

• BICO는 최적의 자원 할당 비율을 사전에 알지 못하더라도, 고정된 자원 할당 전략과 비슷한 해법 성능을 달성한다.
• 일개의 입력 파rameter 테스트 케이스에서 BICO는 이중 입력 파rameter 케이스보다 더 많은 자원을 데이터 수집에 할애했으며, 이는 다차원 입력 공간에서 더 많은 모델 신뢰도가 필요하기 때문일 것이다.
• 신문 판매자 문제에서 BICO는 자원의 30퍼센트를 초과해 데이터 수집에 할애하는 것을 자동으로 피했으며, 고정 할당 전략에서 나타나는 비최적 범위를 피했다.
• 알고리즘이 합성 및 실제 세계 시뮬레이션 문제 모두에서 강건한 성능을 보였고, 최적화 비용에 대해 좁은 신뢰구간을 유지했다.
• BICO의 적응형 자원 할당은 최고의 사전 지정된 데이터 수집 예산 성능과 거의 일치했으며, 강력한 실용적 유용성을 보였다.
• BICO는 높은 품질의 시뮬레이션 최적화를 유지하면서도 입력 불확실성을 효과적으로 감소시켰으며, 난이도 높거나 고정된 할당 전략보다 뛰어난 성능을 보였다.