[논문 리뷰] Differentiable Likelihoods for Fast Inversion of 'Likelihood-Free' Dynamical Systems

Hans Kersting, Nicholas Krämer외 4명|arXiv (Cornell University)|2020. 02. 21.

Gaussian Processes and Bayesian Inference참고 문헌 43인용 수 7

한 줄 요약

이 논문은 유한 차분 ODE 필터링을 활용하여 ODE 역문제에 대한 미분 가능한 우도 근사법을 제안한다. 이는 국소적 가우시안 우도 근사를 구성함으로써 효율적인 기울기 및 헤시안 추정을 가능하게 하며, 우도 자유 추론에서 더 빠른 최적화와 샘플링을 가능하게 한다. 이 방법은 세 가지 벤치마크 ODE에서 표준 방법보다 수렴 속도를 빠르게 하고 사후 분포 탐색을 향상시켜 성능을 뛰어나게 한다.

ABSTRACT

Likelihood-free (a.k.a. simulation-based) inference problems are inverse problems with expensive, or intractable, forward models. ODE inverse problems are commonly treated as likelihood-free, as their forward map has to be numerically approximated by an ODE solver. This, however, is not a fundamental constraint but just a lack of functionality in classic ODE solvers, which do not return a likelihood but a point estimate. To address this shortcoming, we employ Gaussian ODE filtering (a probabilistic numerical method for ODEs) to construct a local Gaussian approximation to the likelihood. This approximation yields tractable estimators for the gradient and Hessian of the (log-)likelihood. Insertion of these estimators into existing gradient-based optimization and sampling methods engenders new solvers for ODE inverse problems. We demonstrate that these methods outperform standard likelihood-free approaches on three benchmark-systems.

연구 동기 및 목표

• ODE 소자의 분석적 구조를 고려하지 않더라도 블랙박스로 간주되는 ODE 해법기로 인해 표준 우도 자유 추론이 비효율적인 문제를 해결하기 위해.
• 기존 ODE 해법기가 점추정치만 반환하는 한계를 극복하기 위해 확률적 수치 프레임워크를 도입함으로써.
• 새로운 자코비안 추정기 J를 사용하여 로그 우도의 기울기 및 헤시안에 대한 해석적 추정기(닫힌 형태)를 개발하기 위해.
• 다양한 기울기 및 헤시안 기반 최적화 및 샘플링 방법을 ODE 역문제에 적용하기 위해, 기울기 가능 우도 근사를 제공하기 위해.
• 제안된 우도 근사법을 사용한 기울기 기반 추론이 수렴 속도와 샘플링 효율성 측면에서 표준 우도 자유 방법보다 뛰어나다는 것을 입증하기 위해.

제안 방법

• 유한 차분 ODE 필터링—확률적 수치 방법—을 활용하여 ODE 해를 가우시안 프로세스로 모델링함으로써 국소적 우도 근사를 도출한다.
• 필터링된 ODE 해의 평균 mθ에 대한 매핑 θ ↦ mθ에 대한 새로운 자코비안 추정기 J를 구성함으로써 기울기 및 헤시안의 닫힌 형태 계산을 가능하게 한다.
• 진짜 자코비안을 J와 민감도 항 S로 분해함으로써 J의 이론적 근거를 도출하며, 근사 오차에 대한 상한을 제시한다.
• 근사된 우도를 사용하여 L-BFGS 및 하미르톤 몬테카를로와 같은 기울기 기반 최적화 및 샘플링 알고리즘을 구동한다.
• 기존 추론 프레임워크에 우도 근사를 통합하여 블랙박스 시뮬레이션을 기울기 가능하고 해석 가능한 우도로 대체한다.
• 로지스틱 성장, 로트카-볼테라, 단백질 신호 전달 경로의 세 가지 벤치마크 ODE에서 방법을 검증하며, 랜덤 워크 메트로폴리스 및 무작위 탐색과 비교한다.

실험 결과

연구 질문

• RQ1 확률적 ODE 해법기를 사용하여 ODE 역문제에서 우도의 국소적 가우시안 근사를 구성할 수 있는가? 이는 기울기 가능 추론을 가능하게 하는가?
• RQ2 제안된 자코비안 추정기 J는 전체 민감도 분석이나 수치 적분에 비해 정확하고 효율적인 대안이 되는가?
• RQ3 기울기 및 헤시안 기반 최적화 및 샘플링 방법은 ODE 추론에서 표준 우도 자유 방법보다 뛰어나게 성능을 발휘하는가?
• RQ4 자코비안 추정기 J의 근사 오차는 ODE 해의 진짜 민감도에 대해 어떻게 척도가 작용하는가?
• RQ5 비선형성 또는 비모수적 벡터장이 존재하는 ODE에 대해서도 제안된 방법이 적용 가능한가? 특히 가정 1을 엄격히 만족하지 않는 경우에도 적용 가능한가?

주요 결과

• 제안된 방법은 수렴 속도와 샘플링 효율성 측면에서 세 가지 벤치마크 ODE 전반에서 표준 우도 자유 추론 방법(랜덤 워크 메트로폴리스 MCMC 및 무작위 탐색 최적화)을 모두 능가한다.
• 유한 차분 ODE 필터링 프레임워크에서 유도된 기울기 및 헤시안 추정기를 사용함으로써 최적화에서 더 빠른 수렴과 MCMC 샘플링에서 개선된 혼합 성능을 달성한다.
• 매개변수당 반복적인 ODE 해법을 피하기 때문에, 전체 수치 적분에 비해 자코비안 추정기 J는 상당한 속도 향상을 달성한다.
• 이론적 분석을 통해 J의 근사 오차는 유한하며, 민감도 항 S로 분해 가능하다는 것이 입증되어, 그 사용에 체계적인 근거를 제공한다.
• 로지스틱 ODE 및 단백질 신호 전달 경로에 대한 실증 결과는 재매개변수화를 통해 가정 1이 느슨해져도 정확도를 유지함을 보여준다.
• 이 방법은 이전에는 우도 계산이 불가능하여 실행이 어려웠던 고급 최적화 및 샘플링 기법을 ODE 역문제에 적용할 수 있도록 한다.