[논문 리뷰] HMCLab: a framework for solving diverse geophysical inverse problems using the Hamiltonian Monte Carlo method

Andrea Zunino, Lars Gebraad외 2명|arXiv (Cornell University)|2023. 03. 17.

Geophysical and Geoelectrical Methods참고 문헌 69인용 수 1

한 줄 요약

HMCLab는 파이썬과 줄리아에서 구동되는 오픈소스로, 해밀턴 몬테카를로(HMC) 및 인근 방법을 사용하여 확률적 지구물리학 역문제를 해결할 수 있도록 해주는 다국어 프레임워크이다. 이 프레임워크는 고차원 사후 분포를 기울기 기반 샘플링을 통해 효율적으로 샘플링함으로써 지하 물성의 불확실성 정량화 및 통계적 추론을 가능하게 하며, 지반 탐사, 원천 위치 결정, 잠재력장 역문제 등 다양한 문제를 통합된 플랫폼에서 해결할 수 있다.

ABSTRACT

The use of the probabilistic approach to solve inverse problems is becoming more popular in the geophysical community, thanks to its ability to address nonlinear forward problems and to provide uncertainty quantification. However, such strategy is often tailored to specific applications and therefore there is a lack of a common platform for solving a range of different geophysical inverse problems and showing potential and pitfalls. We demonstrate a common framework to solve such inverse problems ranging from, e.g, earthquake source location to potential field data inversion and seismic tomography. Within this approach, we can provide probabilities related to certain properties or structures of the subsurface. Thanks to its ability to address high-dimensional problems, the Hamiltonian Monte Carlo (HMC) algorithm has emerged as the state-of-the-art tool for solving geophysical inverse problems within the probabilistic framework. HMC requires the computation of gradients, which can be obtained by adjoint methods, making the solution of tomographic problems ultimately feasible. These results can be obtained with "HMCLab", a tool for solving a range of different geophysical inverse problems using sampling methods, focusing in particular on the HMC algorithm. HMCLab consists of a set of samplers and a set of geophysical forward problems. For each problem its misfit function and gradient computation are provided and, in addition, a set of prior models can be combined to inject additional information into the inverse problem. This allows users to experiment with probabilistic inverse problems and also address real-world studies. We show how to solve a selected set of problems within this framework using variants of the HMC algorithm and analyze the results. HMCLab is provided as an open source package written both in Python and Julia, welcoming contributions from the community.

연구 동기 및 목표

• 확률적 프레임워크 내에서 다양한 지구물리학 역문제를 해결하기 위한 공통적이고 확장 가능한 플랫폼의 부족을 해결하기 위해.
• 지반 탐사, 원천 위치 결정, 잠재력장 자료 등 비선형 지구물리학 역문제의 불확실성 정량화를 가능하게 하기 위해.
• 샘플링 기반 추론(HMC 등)과 결정론적 최적화(기울기 강하 등)를 모두 지원하는 융통성 있고 확장 가능한 소프트웨어 환경을 제공하기 위해.
• 사용자 정의 전방 모델, 사전 분포 및 기울기 계산을 지원하는 표준 인터페이스를 제공함으로써, 핵심 코드를 수정하지 않고도 역문제를 커스터마이징할 수 있도록 하여 커뮤니티 기여를 촉진하기 위해.
• 이론적 확률적 역문제와 실용적 응용 간 격차를 해소하기 위해, 즉시 사용 가능한 예제와 상호작용 가능한 노트북을 제공하기 위해.

제안 방법

• 주로 샘플링 알고리즘으로 해밀턴 몬테카를로(HMC)를 사용하며, 사후 분포의 기울기 정보를 활용하여 고차원 모델 공간을 효율적으로 탐색한다.
• 오차 기능의 모델 파라미터에 대한 기울기를 계산하기 위해 인근 방법을 통합함으로써, 대규모 역문제에서 스케일이 잘 되고 정확한 HMC 샘플링을 가능하게 한다.
• HMC, 메트로폴리스-해스팅스, SVGD 등 플러그인식 샘플러와 전방 문제 모듈(예: 전체파형 역탐사, 전파시간 탐사)을 포함한 모듈식 소프트웨어 아키텍처를 제공한다.
• 표준 인터페이스를 통해 사용자 정의 전방 모델, 사전 분포 및 기울기 함수를 지원함으로써, 핵심 코드를 수정하지 않고도 역문제를 커스터마이징할 수 있다.
• 기울기 계산, 결정론적 최적화(L-BFGS, 뉴턴-CG 등), MCMC 및 변분 추론(SVGD)을 통한 확률적 추론을 위한 내장 도구를 포함한다.
• 재현 가능하고 접근성이 높은 실험을 가능하게 하기 위해, 상호작용 가능한 제우피어 노트북과 도커화된 환경을 제공한다.

실험 결과

연구 질문

• RQ1 통합된 소프트웨어 프레임워크가 확률적 추론 프레임워크 내에서 다양한 지구물리학 역문제를 효과적으로 지원할 수 있는가?
• RQ2 기울기 기반 인근 방법을 사용한 HMC는 전통적인 MCMC 방법에 비해 고차원 지구물리학 역문제에서 샘플링 효율성과 수렴 속도를 어떻게 향상시키는가?
• RQ3 HMCLab는 부피, 경계 위치, 투과성 층 등 복잡한 지하 물성의 불확실성 정량화를 어느 정도 가능하게 하는가?
• RQ4 모듈식 오픈소스 프레임워크는 새로운 역문제 유형과 샘플링 알고리즘의 통합을 어떻게 촉진할 수 있는가?
• RQ5 HMC와 인근 방법의 조합은 전체파형 역탐사 및 기타 비선형 역문제의 계산 가능성과 통계적 안정성을 어떻게 향상시키는가?

주요 결과

• HMCLab는 인근 기울기 기반 HMC를 사용하여 전체파형 음향 역탐사, 진원 위치 결정, 전파시간 탐사, 자기이상 역탐사 등 다양한 지구물리학 역문제를 성공적으로 해결하였다.
• 인근 방법에서 유도된 기울기 정보로 강화된 HMC 알고리즘은 고차원 사후 분포를 효율적으로 탐색할 수 있게 하여, 기존 MCMC에서 흔히 발생하는 무작위 보행 행동을 크게 감소시켰다.
• 이 프레임워크를 통해 사용자는 기대 모델 값, 물리적 성질의 히스토GRAM, 지질학적 체적 또는 층 경계의 확률과 같은 사후 통계를 계산할 수 있다.
• HMCLab는 확률적 샘플링(HMC, 메트로폴리스-해스팅스 등)과 결정론적 최적화(기울기 강하 등)를 모두 지원하여 사용자가 베이지안 해와 최대 사후 확률 해를 모두 탐색할 수 있도록 한다.
• 사전에 구현된 전방 모델, 사전 분포 및 기울기 계산 함수의 포함으로, 저수준 프로그래밍 없이도 역문제를 신속하게 프로토타ип링하고 테스트할 수 있다.
• 이 프레임워크는 활발히 유지보수되고 있으며 확장 가능하며 커뮤니티 기여를 환영하며, 파이썬과 줄리아 모두에서 도커 및 상호작용 가능한 노트북을 통해 접근할 수 있다.