[논문 리뷰] Likelihood-free Simulation-based Optimal Design

Markus Hainy, Werner G. Müller외 1명|arXiv (Cornell University)|2013. 05. 18.

Probabilistic and Robust Engineering Design참고 문헌 6인용 수 8

한 줄 요약

이 논문은 가능도가 해석적으로 구하기 어려운 실험 설계 문제를 해결하기 위해, 가능도 없이 시뮬레이션 가능한 모델을 기반으로 한 최적 설계 프레임워크를 제안한다. 이 방법은 근사 베이지안 계산(ABC)과 마르코프 체인 몬테카를로(MCMC) 기반의 설계 알고리즘을 결합하여, 가능도가 추정 불가능한 복잡한 모델에서도 최적 설계를 실현 가능하게 한다. 한정된 차원의 설계 문제에서 높은 정확도로 최적 설계에 수렴하는 성능을 입증하였다.

ABSTRACT

Simulation-based optimal design techniques are a convenient tool for solving a particular class of optimal design problems. The goal is to find the optimal configuration of factor settings with respect to an expected utility criterion. This criterion depends on the specified probability model for the data and on the assumed prior distribution for the model parameters. We develop new simulation-based optimal design methods which incorporate likelihood-free approaches and utilize them in novel applications. Most simulation-based design strategies solve the intractable expected utility integral at a specific design point by using Monte Carlo simulations from the probability model. Optimizing the criterion over the design points is carried out in a separate step. Müller (1999) introduces an MCMC algorithm which simultaneously addresses the simulation as well as the optimization problem. In principle, the optimal design can be found by detecting the utility mode of the sampled design points. Several improvements have been suggested to facilitate this task for multidimensional design problems (see e.g. Amzal et al. 2006). We aim to extend this simulation-based design methodology to design problems where the likelihood of the probability model is of an unknown analytical form but it is possible to simulate from the probability model. We further assume that prior observations are available. In such a setting it is seems natural to employ approximate Bayesian computation (ABC) techniques in order to be able to simulate from the conditional probability model. We provide a thorough review of adjacent literature and we investigate the benefits and the limitations of our design methodology for a particular paradigmatic example.

연구 동기 및 목표

• 가능도 함수가 해석적으로 추정 불가능하지만 데이터를 시뮬레이션할 수 있는 실험 설계 문제를 해결하기 위해.
• 가능도 없이도 시뮬레이션 기반 최적 설계 방법을 근사 베이지안 계산(ABC)을 활용해 확장하기 위해.
• 먼저 ABC를 사용해 사후분포를 근사하고, 그 다음 설계 공간에서 기대 효용을 최적화하는 이단계 MCMC 기반 접근법을 개발하기 위해.
• ABC를 MCMC 기반 최적화와 통합하여 적응형 및 순차적 설계 응용을 가능하게 하기 위해.
• 기존에 알려진 최적 설계가 존재하는 범용 사례를 대상으로 성능을 평가하여 수렴성과 계산 효율성을 분석하기 위해.

제안 방법

• 가능도가 추정 불가능할 경우 관측 데이터를 바탕으로 매개변수의 사후분포를 ABC를 통해 시뮬레이션한다.
• 이중 단계 MCMC 알고리즘을 적용한다: 첫 번째 단계에서는 ABC를 통해 가중치가 부여된 사후표본을 생성하고, 두 번째 단계에서는 설계 포인트에서 기대 효용을 최적화한다.
• 설계 매개변수에 대해 균일한 제안 분포를 사용하여 고효용 영역 조차도 탐색 가능하게 하며, 특히 효용 함수의 거듭제곱이 클 경우에도 유용하다.
• 샘플링 효율성 향상과 모드 탐지 향상을 위해 기대 효용 함수를 거듭제곱 변환하여 파rameter $ J $ 를 사용한다.
• MCMC 수렴성과 혼합 성능 평가를 위해 커널 밀도 추정과 수용률/IAT 진단을 활용한다.
• 다중 차원 설계에 대한 프레임워크를 확장하기 위해 다변량 ABC 커널과 허용 오차 $ \epsilon $ 를 사용한다.

실험 결과

연구 질문

• RQ1 ABC-MCMC 방법은 가능도 없는 시뮬레이션 기반 최적 설계와 효과적으로 통합될 수 있는가?
• RQ2 효용 함수의 거듭제곱 $ J $ 를 선택할 경우 설계 공간에서 MCMC 샘플러의 수렴성과 정확도에 어떤 영향을 미치는가?
• RQ3 사후표본 크기와 마르코프 체인 길이가 최적 설계 추정의 품질에 어떤 영향을 미치는가?
• RQ4 제안된 이단계 ABC-MCMC 프레임워크는 알려진 최적 해가 존재하는 다차원 설계 문제로 확장될 수 있는가?
• RQ5 수용률과 통합 자기상관시간(IAT)은 $ J $ 가 증가함에 따라 어떻게 변화하는가? 이는 샘플링 효율성에 어떤 함의를 갖는가?

주요 결과

• 일차원 예제에서 이 방법은 정확히 참 최적 설계 $ d^* = 0.998 $ 근처에 MCMC 샘플이 집중되는 것을 확인하였다.
• J = 200 인 경우 수용률은 0.0078로 감소하지만, 여전히 최적 영역으로 수렴함을 보여 최저 수용률에도 불구하고 강건성을 입증하였다.
• 이차원 설계 문제에서는 두 개의 최적 설계 $ \mathbf{d} = (0,1)^T $ 과 $ \mathbf{d} = (1,0)^T $ 를 정확히 식별하였으며, 이들 근처에 고빈도의 샘플이 집중되었다.
• 실행 시간은 $ J $ 가 증가함에 따라 증가하지만, $ J = 200 $ 이고 체인 길이 $ 10^5 $ 인 경우에도 두 번째 단계는 2분 이내에 완료되어 계산 가능성을 입증하였다.
• 사후표본 크기가 10,000과 20,000일 경우 거의 동일한 결과를 도출하여, 일정 샘플 크기 이상에서는 수익 감소 효과가 나타남을 보였다.
• 심지어 $ \epsilon $-허용 오차 ABC를 사용하더라도 사후분포와 최적 설계의 정확한 근사가 가능하여, 설계 최적화 맥락에서 ABC 근사 오차에 대해 강건함을 입증하였다.