[논문 리뷰] Comments on "Bayesian Solution Uncertainty Quantification for Differential Equations" by Chkrebtii, Campbell, Calderhead & Girolami

Jon Cockayne|arXiv (Cornell University)|2016. 10. 25.

Probabilistic and Robust Engineering Design참고 문헌 10인용 수 4

한 줄 요약

이 논문은 Chkrebtii 등이 제안한 미분방정식에 대한 베이지안 불확실성 정량화(UQ) 프레임워크를 비판하며, 이 방법의 순차적이고 필터링 유사 갱신 메커니즘이 시간적으로 뒤로 정보를 완전히 전파하지 못해 전체 베이지안 추론과의 일관성이 떨어진다고 주장한다. 저자는 사후 분포가 모든 가용 데이터를 반영해야 하며, 과거 관측값만이 아니라 미래의 관측값도 포함되어야 한다고 주장하며, 이 방법의 정보 효율성과 베이지안 일관성에 의문을 제기한다.

ABSTRACT

I would like to thank the authors for their interesting and very clearly presented paper discussing probabilistic solvers for ODEs and PDEs.

연구 동기 및 목표

• Chkrebtii 등이 제안한 확률적 ODE 해법 프레임워크의 베이지안 일관성에 도전하기 위해
• 특히 뒤로 향하는 정보 흐름의 부재로 인한 불확실성 전파 처리에서의 모순을 부각하기 위해
• 이 방법의 필터링 유사 접근 방식이 전체 베이지안 갱신을 올바르게 표현하지 못하며, Skilling(1992)의 원칙과 모순됨을 주장하기 위해
• 확률적 메쉬리스 방법(PMM)과 같은 다른 확률적 수치 해법과의 비교를 위해
• 정보 효율성과 베이지안 일관성을 향상시키기 위해 스무딩 기반 추론을 통합할 것을 주장하기 위해

제안 방법

• 선형 ODE에 시간에 따라 변하는 벡터장 f(t)를 가진 반례를 제시하여 사후 분포의 비일관성을 입증한다.
• 미래의 f(t) 값이 과거 u(t)에 대한 믿음에 영향을 주지 않는 방법의 순차적 갱신 방식과, 모든 데이터가 모든 믿음을 지배해야 하는 전체 베이지안 접근 방식을 대비한다.
• Skilling(1992)의 프레임워크를 정확한 베이지안 UQ의 기준으로 적용하여, f의 불확실성을 모델링하고 u로 전파하는 방식을 제시한다.
• 이 방법의 접근 방식을 자료 통합 기법과 비교하여, 필터링에 유사하지만 스무딩과는 다름을 밝힌다.
• 선형 문제의 경우 전체 베이지안 해는 과거 관측값뿐 아니라 모든 관측값이 동시에 고려되어야 하며, 이는 이 방법이 달성하지 못한다.
• 일관된 사후 분포를 달성하기 위해 프레임워크에 스무딩 기반 추론을 통합할 것을 제안한다.

실험 결과

연구 질문

• RQ1 ODE 및 PDE에서 제안된 베이지안 UQ 방법이 진정으로 전체 베이지안 갱신을 반영하는가, 아니면 필터링 유사 순차적 갱신에 국한되어 있는가?
• RQ2 이 방법이 향후 관측값의 정보 흐름을 무시하는 것은 Skilling(1992)가 체계화한 베이지안 추론 원칙과 어떻게 조화를 이룰 수 있는가?
• RQ3 이 방법의 불확실성 정량화는 PDE 분야의 확률적 메쉬리스 방법(PMM)과 비교해 볼 때 일관성과 정보 효율성 측면에서 어떻게 다를까?
• RQ4 f(t)의 향후 평가값이 이전 시간대의 u에 대한 사후 분포에 영향을 주지 않는 것으로 간주하는 것이 어떤 의미를 갖는가?
• RQ5 이 방법은 스무딩 기반 추론을 통합함으로써 더 일관된 베이지안 사후 분포를 달성할 수 있는가?

주요 결과

• 미래의 f(t) 관측값이 이전 시간대의 사후 분포에 영향을 주지 않기 때문에, 이 방법의 사후 분포는 전체 베이지안 추론과 비일관성 존재한다.
• 뒤로 향하는 정보 흐름의 부재는 모든 데이터가 전체 사후 분포를 지배해야 한다는 원칙을 위반하며, 이는 방법의 베이지안 일관성에 타격을 준다.
• 이 방법은 자료 통합에서 필터링과 유사하지만, 저자는 모든 데이터가 모든 추론에 영향을 주는 스무딩이 더 적절하다고 주장한다.
• 선형 문제의 경우 전체 베이지안 해는 과거 관측값뿐 아니라 모든 관측값이 동시에 고려되어야 하며, 이는 이 방법이 달성하지 못한다.
• 이 방법의 불확실성 정량화는 확률적 메쉬리스 방법(PMM)과 같은 다른 접근 방식보다 정보 효율성이 떨어진다.
• 저자는 스무딩을 프레임워크에 통합하면 비일관성이 해결되고 베이지안 일관성이 향상될 수 있을 것이라고 제안한다.