[논문 리뷰] On the Incorporation of Box-Constraints for Ensemble Kalman Inversion

Neil K. Chada, Claudia Schillings외 1명|arXiv (Cornell University)|2019. 08. 02.

Gaussian Processes and Bayesian Inference참고 문헌 35인용 수 4

한 줄 요약

이 논문은 선형 역문제 해결 과정에서 매개변수 추정치가 타당한 범위 내에 유지되도록 상자 제약 조건을 포함한 투영형 앙상블 칼만 필터 역설계(pEnKF) 방법을 제안한다. 변동성 증폭을 투영형 조절된 경사 하강 프레임워크에 통합함으로써, 비선형 설정에서 잘못된 내림쪽 방향을 유지하는 난이도를 극복하고 진정한 해로의 수렴을 보장한다.

ABSTRACT

The Bayesian approach to inverse problems is widely used in practice to infer unknown parameters from noisy observations. In this framework, the ensemble Kalman inversion has been successfully applied for the quantification of uncertainties in various areas of applications. In recent years, a complete analysis of the method has been developed for linear inverse problems adopting an optimization viewpoint. However, many applications require the incorporation of additional constraints on the parameters, e.g. arising due to physical constraints. We propose a new variant of the ensemble Kalman inversion to include box constraints on the unknown parameters motivated by the theory of projected preconditioned gradient flows. Based on the continuous time limit of the constrained ensemble Kalman inversion, we discuss a complete convergence analysis for linear forward problems. We adopt techniques from filtering which are crucial in order to improve the performance and establish a correct descent, such as variance inflation. These benefits are highlighted through a number of numerical examples on various inverse problems based on partial differential equations.

연구 동기 및 목표

• 표준 앙성텔 칼만 필터(EnKF)에서 제약 조건 처리의 부족으로 인해 타당하지 않은 매개변수 추정치가 발생할 수 있음을 해결하기 위해.
• 선형 역문제에서 상자 제약 조건을 강제로 적용하면서도 수렴 성질을 유지하는 이론적으로 탄탄한 방법을 개발하기 위해.
• 순수한 투영 방식이 내림쪽 방향을 보장하지 못함을 입증하고, 수렴성을 회복하기 위해 변동성 증폭이 필수적임을 보여주기 위해.
• 연속 시간 근사로의 확장을 다루고, 투영형 EnKF의 수렴 프레임워크를 제공하기 위해.
• 앙상블 제곱근 필터(ESRF) 및 계층적 역문제로의 접근을 일반화하기 위해.

제안 방법

• 최소 제곱 오차 기능을 최적화하는 유도 없는 최적화기로 EnKF를 재정의함으로써, 최적화 이론을 통한 재해석을 가능하게 한다.
• Bertsekas 등에 의해 영감을 받은 투영형 조절된 경사 하강 흐름 접근을 채택하여, 각 단계 이후 매개변수 갱신을 타당한 상자 집합에 투영한다.
• 예측치의 정확도를 높이고 정체를 방지하기 위해, 예측치에 변동성 증폭을 도입한다(덧셈 보정 $ \vartheta C_0 $를 통한 예측치 조정).
• 제약 조건이 있는 EnKF의 연속 시간 근사를 미분방정식으로 기술하며, 오른쪽 항이 불연속인 형태로 표현하고, 분석을 위해 부드러운 장벽 방법을 사용한다.
• 앙상블 공분산 $ C(u) $ 와 모델 야코비안 $ D\mathcal{G}(\bar{u}) $ 를 사용해 교차공분산 $ C^{up}(u) $ 를 근사하며, 변동성 증폭을 적용한 형태로 표현한다: $ (C(u) + \vartheta C_0)D\mathcal{G}(\bar{u})^\top $.
• 존재성/유일성, 앙상블 산란도 감소, 잔차 감소를 통한 수렴 분석을 수행하고, PDE 기반 역문제에 대한 수치 실험을 통해 검증한다.

실험 결과

연구 질문

• RQ1 상자 제약 조건이 있는 투영형 EnKF는 선형 역문제의 진정한 해로 수렴할 수 있는가?
• RQ2 EnKF 반복값의 순수한 투영 방식이 내림쪽 방향을 보장하지 못하는 이유는 무엇이며, 어떤 메커니즘이 수렴성을 복원하는가?
• RQ3 예측치의 변동성 증폭이 투영형 EnKF의 수렴 행동에 어떤 영향을 미치는가?
• RQ4 역운동의 비연속성에도 불구하고, 제약 조건이 있는 EnKF의 연속 시간 근사는 엄밀하게 분석할 수 있는가?
• RQ5 제안된 방법은 결정론적 앙상블 제곱근 필터(ESRF) 및 계층적 역문제로 얼마나 넓게 일반화할 수 있는가?

주요 결과

• 매개변수 갱신값을 타당한 상자 집합에 순수하게 투영하는 방식은 내림쪽 방향을 보장하지 못할 수 있으며, 이는 수렴을 보장하지 못함을 의미한다.
• 예측치의 변동성 증폭이 내림쪽 방향을 올바르게 복원하고 전역 최소화점을 향한 수렴을 가능하게 하기 위해 필수적이다.
• 변동성 증폭을 적용한 변형된 EnKF는 수치 실험에서 오차 기능의 지속적인 감소를 보이며, 투영형 EnKF 및 표준 EnKF는 정체 상태에 머물러 있다.
• 모든 방법에서 앙상블 산란도는 0으로 수렴하지만, 변형된 EnKF는 잔차 감소 측면에서 뛰어난 수렴 성능 유지를 보인다.
• 부드러운 장벽 공식화를 통해 연속 시간 근사에서 존재성 및 유일성 보장이 이루어지며, 수렴 분석이 성립한다.
• 이 방법은 ESRF로 일반화 가능하며, 초매개변수에 균일한 사전 분포가 적용되는 계층적 역문제에 적용 가능하다.