[논문 리뷰] Adversarial Variational Optimization of Non-Differentiable Simulators

Gilles Louppe, Joeri Hermans외 1명|arXiv (Cornell University)|2017. 07. 22.

Generative Adversarial Networks and Image Synthesis참고 문헌 39인용 수 19

한 줄 요약

이 논문은 비미분 가능 시뮬레이터를 위한 가능도 자유 추론 방법인 적대적 변분 최적화(Adversarial Variational Optimization, AVO)를 제안한다. AVO는 생성적 적대적 네트워크와 변분 최적화를 결합하여 적대적 목표의 변분 상한을 최소화한다. AVO는 가능도가 추정 가능한 경우나 요약 통계 자료가 필요 없이도 복잡한 과학적 시뮬레이터에서 효율적인 매개변수 추정을 가능하게 하며, 입자 물리학과 인구 유전학을 포함한 벤치마크에서 ABC-SMC 및 BOLFI와 유사한 뛰어난 성능을 달성한다.

ABSTRACT

Complex computer simulators are increasingly used across fields of science as generative models tying parameters of an underlying theory to experimental observations. Inference in this setup is often difficult, as simulators rarely admit a tractable density or likelihood function. We introduce Adversarial Variational Optimization (AVO), a likelihood-free inference algorithm for fitting a non-differentiable generative model incorporating ideas from generative adversarial networks, variational optimization and empirical Bayes. We adapt the training procedure of generative adversarial networks by replacing the differentiable generative network with a domain-specific simulator. We solve the resulting non-differentiable minimax problem by minimizing variational upper bounds of the two adversarial objectives. Effectively, the procedure results in learning a proposal distribution over simulator parameters, such that the JS divergence between the marginal distribution of the synthetic data and the empirical distribution of observed data is minimized. We evaluate and compare the method with simulators producing both discrete and continuous data.

연구 동기 및 목표

• 가능도가 추정 가능한 경우나 미분 가능성이 없는 과학적 시뮬레이터에서의 매개변수 추론 문제를 해결하기 위해.
• 기각 기반 ABC 방법의 비효율성을 피하면서도 확장 가능한 가능도 자유 추론 알고리즘을 개발하기 위해.
• 암묵적 생성 모델에서 변분 근사법을 통해 경험 베이즈 추론을 가능하게 하기 위해.
• 요약 통계 자료에 의존하지 않고도 합성 데이터의 주변 분포를 관측된 데이터와 일치시키기 위해.
• 비미분 가능 시뮬레이터에 대해 변분 상한을 사용하여 미분 가능한 최적화 경로를 제공하기 위해.

제안 방법

• GAN의 미분 가능한 생성자 대신 도메인 특화의 비미분 가능 시뮬레이터를 사용하기.
• 시뮬레이터 매개변수에 대한 최소화 최대화 최적화 문제로 추론 문제를 설정하고, 진짜 데이터와 합성 데이터를 구분하는 판별자 사용하기.
• 비미분 가능성을 다루기 위해 적대적 목표의 변분 상한을 최소화하기.
• 로그 가능도 비율의 변분 근사를 사용하여 매개변수에 대한 제안 분포의 기울기 기반 최적화 가능하게 하기.
• 생성자 매개변수를 변분 상한을 통해 최적화하면서, 시뮬레이터와 판별자를 교차적으로 확률적 경사 하강법으로 함께 훈련하기.
• 합성 데이터 분포와 경험적 데이터 분포 사이의 젠슨-쇼넬 분산을 최소화하도록 제안 분포 최적화하기.

실험 결과

연구 질문

• RQ1 적대적 훈련이 가능도 자유 추론을 위해 비미분 가능 시뮬레이터에 적응할 수 있는가?
• RQ2 암묵적 모델에서 비미분 가능한 최소화 최대화 목표를 최적화하기 위해 변분 상한을 어떻게 활용할 수 있는가?
• RQ3 AVO는 ABC-SMC 및 BOLFI와 같은 기존의 가능도 자유 방법보다 정확성과 효율성 측면에서 뛰어나게 성능을 내는가?
• RQ4 가능도 표면이 열악하거나 다중 최적화를 보일 경우에도 AVO는 좋은 매개변수 추정치를 제공할 수 있는가?
• RQ5 복잡한 과학적 시뮬레이터에서 요약 통계 자료나 기각 샘플링이 필요 없이 AVO가 작동하는가?

주요 결과

• AVO는 가능도가 추정 가능한 경우나 요약 통계 자료가 필요 없이도, 입자 물리학과 인구 유전학을 포함한 복잡한 과학적 벤치마크에서 ABC-SMC 및 BOLFI와 유사한 성능을 달성한다. 특히 웨인버그 벤치마크에서 손실 경로상의 명백한 매개변수 추정 오류가 존재하더라도 경쟁 가능한 성능을 보였다.
• 진짜 매개변수들이 유일하게 특정되지 않더라도, 여러 매개변수 설정에서 경험적 데이터 분포를 잘 일치시키는 데 성공했다.
• 웨인버그 벤치마크에서 AVO, SMC-ABC, BOLFI 모두 관측된 데이터와 유사한 합성 데이터 분포를 생성하여 매개변수의 열악한 성질에 대해 강건함을 입증했다.
• 매개변수 공간에 넓은 최소값이 존재하는 것이, 데이터 생성이 잘 근사되더라도 높은 L2 오차를 초래하는 이유를 설명한다.
• AVO는 ABC 기각 샘플링의 비효율성을 피하고, 특수한 요약 통계 자료가 필요 없어, 복잡한 시뮬레이터에 적합하다.
• 모델이 잘 지정되어 있을 경우, AVO는 점근적으로 진짜 데이터 생성 매개변수로 수렴하는 일관된 점 추정치를 제공한다.