[논문 리뷰] Generative models for sampling of lattice field theories

Matija Medvidović, Juan Carrasquilla외 2명|arXiv (Cornell University)|2020. 12. 02.

Cold Atom Physics and Bose-Einstein Condensates참고 문헌 28인용 수 6

한 줄 요약

이 논문은 사전에 준비된 학습 데이터셋이 필요 없이, 랜덤 필드 이론에서 상호상관이 없는 표본을 자동으로 학습하여 생성하는, 적대적 신경망 기반의 마르코프 체인 몬테카를로 방법인 A-NICE MC를 소개한다. 마르코프 체인의 상호상관을 최소화하도록 생성 모델을 훈련시킴으로써, 이전에 달성한 것보다 훨씬 큰 시스템 크기에서 $φ^4$ 격자 필드 이론을 효율적으로 샘플링할 수 있게 되었으며, 히스토그램 몬테카를로(Hamiltonian Monte Carlo)에 비해 더 빠른 추론과 더 적은 저장 용량을 요구한다.

ABSTRACT

We explore a self-learning Markov chain Monte Carlo method based on the Adversarial Non-linear Independent Components Estimation Monte Carlo, which utilizes generative models and artificial neural networks. We apply this method to the scalar $φ^4$ lattice field theory in the weak-coupling regime and, in doing so, greatly increase the system sizes explored to date with this self-learning technique. Our approach does not rely on a pre-existing training set of samples, as the agent systematically improves its performance by bootstrapping samples collected by the model itself. We evaluate the performance of the trained model by examining its mixing time and study the ergodicity of generated samples. When compared to methods such as Hamiltonian Monte Carlo, this approach provides unique advantages such as the speed of inference and a compressed representation of Monte Carlo proposals for potential use in downstream tasks.

연구 동기 및 목표

• 사전에 준비된 표본 데이터셋이 없는 자가학습 MCMC 방법을 개발하는 것.
• 특히 약한 결합 상수 영역에서의 $φ^4$ 이론을 포함한 고차원 격자 필드 이론으로 자가학습 MCMC 샘플링을 확장하는 것.
• 생성 모델의 적대적 훈련을 통해 상호상관을 최소화함으로써 샘플링 효율을 향상시키는 것.
• 원시 표본을 저장하는 대신 훈련된 모델을 저장함으로써 추론 속도를 높이고 저장 오버헤드를 줄이는 것.
• 물리적 일관성을 확보하기 위해 생성된 마르코프 체인의 정적성과 혼합 시간을 평가하는 것.

제안 방법

• 이 방법은 생성 모델의 제안 분포를 매개변수화하는 데 신경망을 사용하는 적대적 비선형 독립 성분 추정 몽테카를로(A-NICE MC)를 활용한다.
• 모델은 자체적으로 생성한 표본 기반으로 마르코프 체인의 상호상관을 최소화하는 손실 함수를 사용해 훈련된다.
• 기울기 기반 최적화를 통해 훈련되며, 외부 레이블 데이터나 사전에 준비된 표본 세트가 필요하지 않다.
• 제안 분포는 반복적으로 업데이트되어 연속적인 표본 간의 상관관계를 줄이고 혼합을 향상시킨다.
• 표준 필드 이론 공식화와의 호환성을 보장하기 위해 분석적 격자 작용만을 입력으로 사용한다.
• 훈련 후, 모델은 반복적인 MCMC 스위프 없이도 빠르게 독립된 표본을 생성할 수 있다.

실험 결과

연구 질문

• RQ1 생성 모델 기반의 자가학습 MCMC 방법이 사전에 준비된 데이터셋이 없는 상태에서 격자 필드 이론을 효과적으로 샘플링할 수 있는가?
• RQ2 A-NICE MC 방법은 $φ^4$ 격자 필드 이론에서 상호상관과 혼합 시간 측면에서 어떻게 성능을 발휘하는가?
• RQ3 기존의 자가학습 MCMC 접근법에 비해 이 방법은 얼마나 큰 시스템 크기로 스케일링할 수 있는가?
• RQ4 상호상관과 통계적 효율성 측면에서 A-NICE MC는 히스토그램 몽테카를로(HMC)에 비해 어떻게 성능을 발휘하는가?
• RQ5 훈련된 모델이 물리적 필드 구성과 무작위 가우시안 노이즈를 구분할 수 있는가? 이는 목표 분포를 적절히 학습했음을 시사한다.

주요 결과

• A-NICE MC 방법은 자가학습 MCMC 기법으로 이전에 달성한 바보다 더 큰 시스템 크기에서 약한 결합 상수 영역의 $φ^4$ 격자 필드 이론을 성공적으로 샘플링하였다.
• 훈련 과정에서 마르코프 체인의 유효 표본 크기(ESS)가 체계적으로 증가하여 혼합이 향상되고 상호상관이 감소함을 나타낸다.
• 두점 자화율과 이징 에너지 밀도를 포함한 대부분의 관측량에서, A-NICE MC는 HMC조차도 수용률을 맞춘 상태에서 상호상관 감소가 더 빠르게 나타났다.
• 훈련 동적 및 손실 함수의 행동을 통해 모델이 물리적 표본과 무작위 가우시안 노이즈를 구분하는 데 성공했음을 확인할 수 있었다.
• 평균 자화율 이외의 모든 관측량에서 A-NICE MC의 통합 상호상관 시간(tau)은 HMC보다 낮아 더 뛰어난 샘플링 효율성을 보였다.
• 계산 비용은 샘플링에서 훈련으로 이관되었으며, 이로 인해 큰 표본 세트를 저장하지 않고도 빠르고 즉각적인 추론이 가능한 컴act 모델을 구현할 수 있었다.