[논문 리뷰] Equivariant Flows: sampling configurations for multi-body systems with symmetric energies

Jonas Köhler, Leon Klein외 1명|arXiv (Cornell University)|2019. 10. 02.

Model Reduction and Neural Networks참고 문헌 16인용 수 45

한 줄 요약

이 논문은 에너지 대칭성(회전, 평행이동, 치환)을 존중하는 등변 Boltzmann Generators를 도입하여 다체 시스템의 샘플링을 개선하고, 비등각 모델에 비해 unseen metastable states의 일반화 및 발견에서 우수함을 보여준다.

ABSTRACT

Flows are exact-likelihood generative neural networks that transform samples from a simple prior distribution to the samples of the probability distribution of interest. Boltzmann Generators (BG) combine flows and statistical mechanics to sample equilibrium states of strongly interacting many-body systems such as proteins with 1000 atoms. In order to scale and generalize these results, it is essential that the natural symmetries of the probability density - in physics defined by the invariances of the energy function - are built into the flow. Here we develop theoretical tools for constructing such equivariant flows and demonstrate that a BG that is equivariant with respect to rotations and particle permutations can generalize to sampling nontrivially new configurations where a nonequivariant BG cannot.

연구 동기 및 목표

• 대칭 에너지를 갖는 다체 시스템의 평형 상태 샘플링을 정확도 가능도 흐름을 사용하여 동기를 부여한다.
• 대칭이 불변인(등변) 정규화 흐름을 구축하기 위한 이론적 기준을 개발한다.
• 다체 시스템을 위한 실용적인 등변 흐름 구성을 제공한다.
• 등변 모델과 비등변 모델의 일반화 및 메타안정 상태의 발견을 평가한다.

제안 방법

• 정규화 흐름과 연속 정규화 흐름(CNF)의 맥락에서 대칭 그룹과 등변/불변성을 정의한다.
• 충분한 기준을 증명한다: q_Z가 G-불변이고 f_theta가 G-등변이면 q_X,theta는 G-불변이다.
• 다음의 등변 연속 정규화 흐름을 제안한다. 여기서 역학 g_theta가 G-등변이 되어 div g_theta를 통해 정확한 밀도 변화를 가능하게 한다.
• K개의 입자를 가진 다체 시스템을 치환, 회전, 평행이동 불변성 하에서 모델링하고, 평균 제거(mean-free)이며 대칭-불변인 사전 q_Z를 사용한다.
• 센터 오브 매스(center of mass)를 보존하고 밀도 평가가 계산적으로 용이한 간단한 등변 벡터장을 제시한다(방사형 업데이트).

실험 결과

연구 질문

• RQ1 등변 흐름은 목표 볼츠만 분포의 대칭 불변성을 상속하고 보존할 수 있는가?
• RQ2 등변 볼츠만 생성기는 비등변 것보다 보지 않은 구성과 메타안정 상태에 더 잘 일반화하는가?
• RQ3 연속 정규화 흐름을 어떻게 구성하면 다체 시스템에서 치환, 회전, 평행이동 불변성을 유지할 수 있는가?
• RQ4 샘플링된 구성에서 대칭 인코딩이 새로운 메타안정 상태 발견 능력에 미치는 영향은 무엇인가?

주요 결과

• 등변 볼츠만 Generators(eqBG)는 비등변 BG(nBG)가 실패하는 보지 못한 궤도에 일반화된다.
• eqBG는 학습(train)과 테스트(test) 데이터에서 유사하거나 더 나은 로그 우도(log-likelihood)를 달성하는 반면, nBG는 큰 차이를 보인다(예시 표).
• 등변 흐름 인코딩 시스템은 학습 세트에 없던 여러 메타안정 상태의 발견을 가능하게 한다.
• 간단한 등변 역학은 해밀도 변화의 정확한 계산을 가능하게 하고 센터-오브-매스(mean-free) 상태를 보존한다.
• 2D 토이 다체 시스템에서 등변 인코딩은 비등변 RealNVP 기반 접근법에 비해 일반화를 향상시킨다.