[논문 리뷰] Learning Mappings between Equilibrium States of Liquid Systems Using Normalizing Flows

Alessandro Coretti, Sebastian Falkner외 2명|arXiv (Cornell University)|2022. 08. 22.

Protein Structure and Dynamics인용 수 5

한 줄 요약

이 논문은 통계역학적 액체 시스템의 평형 상태 간의 가역적 변환을 학습하기 위해 정규화 플로우를 사용하는 것을 제안한다. 이를 통해 재가중 기법을 통해 한 시스템으로부터 다른 시스템의 비편향 표본 추출이 가능해진다. 이 방법은 레너드존스 액체와 반발 상호작용을 갖는 입자 시스템 간에 다양한 열역학적 상태에서 성공적으로 맵핑을 수행하였으며, 생성된 표본들이 재가중을 통해 최소한의 편향으로 정확한 평형 분포를 복원할 수 있음을 보여주었다.

ABSTRACT

Generative models are a promising tool to address the sampling problem in multi-body and condensed-matter systems in the framework of statistical mechanics. In this work, we show that normalizing flows can be used to learn a transformation to map different liquid systems into each other allowing at the same time to obtain an unbiased equilibrium distribution through a reweighting process. Two proof-of-principles calculations are presented for the transformation between Lennard-Jones systems of particles with different depths of the potential well and for the transformation between a Lennard-Jones and a system of repulsive particles. In both numerical experiments, systems are in the liquid state. In future applications, this approach could lead to efficient methods to simulate liquid systems at ab-initio accuracy with the computational cost of less accurate models, such as force field or coarse-grained simulations.

연구 동기 및 목표

• 통계역학적 액체 시스템의 평형 상태 간에 가역적 변환을 학습하는 기계학습 기반 접근법을 개발한다.
• 정규화 플로우와 재가중 기법을 활용해 한 액체 시스템으로부터 다른 액체 시스템의 비편향 표본 추출을 가능하게 한다.
• 낮은 정확도의 모델(예: 힘장)에서 고정밀도 시스템으로 지식을 전달하여 계산 비용을 절감한다.
• 무질서한 액체 상에서 볼츠만-볼츠만 맵핑의 가능성을 입증한다.
• 두 가지 개념 증명용 시스템을 대상으로 방법을 검증한다: 서로 다른 웰 깊이를 가진 레너드존스 유체와 레너드존스 유체 대비 반발 입자 시스템.

제안 방법

• 이 방법은 정규화 플로우—가역적이며 미분 가능한 변환을 갖는 딥 네트워크—를 사용하여 두 액체 시스템 A와 B의 평형 구조 간의 맵핑 Φ를 학습한다.
• 변환 Φ는 시스템 A의 볼츠만 분포에서 시스템 B의 분포로 표본을 매핑하며, 자코비안 행렬식을 통해 확률을 유지한다: ρ_B(x_B) = ρ_A(x_A)|det J(x_A)|⁻¹.
• 8개의 스택된 블록과 번갈아가며 적용되는 마스킹을 사용한 real-NVP 아키텍처를 사용하며, 각 블록은 입력 차원의 절반에 대해 학습 가능한 스케일링 및 이동 함수를 적용한다.
• 직접 및 역방향 일致성 항을 포함하는 손실 함수를 사용하여 네트워크를 훈련시키며, 두 번째 훈련 단계에서 λ_dir = 1 및 λ_inv = 1을 설정한다.
• 훈련 안정성을 확보하기 위해, r* < 0.8 근처에서 잠재 에너지를 클램프하고 선형화하여 입자 간 오버랩을 방지하고 기울기의 연속성을 확보한다.
• 물리적 일致성을 유지하기 위해 구조를 주기적 경계 조건으로 감싸며, 입력 데이터에 대해 원천 및 목표 시스템의 기준 구조를 기반으로 PCA를 적용하여 훈련 효율을 향상시킨다.

실험 결과

연구 질문

• RQ1 정규화 플로우는 서로 다른 두 액체 시스템의 평형 구조 간에 가역적 변환을 학습할 수 있는가?
• RQ2 이러한 변환을 통해 생성된 표본들이 재가중을 통해 목표 시스템의 평형 분포에 대한 비편향 추정치를 도출할 수 있는가?
• RQ3 이 방법은 구조적 질서가 없는 무질서한 액체 상에서도 효과적으로 작동하는가?
• RQ4 목표 분포의 직접 표본 없이도, 그 잠재 에너지 함수만으로 맵핑을 훈련시킬 수 있는가?
• RQ5 기준 구조와 PCA를 통한 물리적 사전 지식을 포함시키는 것이 훈련 안정성과 성능에 어떤 영향을 미치는가?

주요 결과

• 다른 웰 깊이를 가진 레너드존스 시스템 간에 성공적으로 맵핑을 수행하여 변환된 구조에서 높은 정밀도를 달성하였다.
• 레너드존스 시스템에서 반발 입자 시스템으로의 맵핑에 있어서, 모델이 목표 시스템의 에너지 분포와 일치하는 물리적으로 타당한 구조를 생성하였다.
• 훈련 기간 동안 기준 데이터의 1st–99th 에너지 백분위수 내에 포함된 생성 표본 비율이 90%를 초과하여 관련 영역의 효과적인 표본 추출을 확인하였다.
• 생성된 표본의 재가중 처리를 통해 열역학적 성질에 대한 비편향 추정치를 도출하였으며, 변환의 타당성을 확인하였다.
• 지속적인 MCMC 샘플링을 통한 역방향 손실 계산에도 불구하고 훈련 과정이 안정적이고 효율적이었으며, 큰 독립적 초기 풀이 필요 없이도 성능을 유지를 하였다.
• 기준 구조에 대한 PCA 적용으로 훈련 수렴과 성능 향상이 이루어졌으며, 물리적 구조를 사전 지식으로 통합하는 것이 유익함을 입증하였다.