[논문 리뷰] Peering inside the black box: Learning the relevance of many-body functions in Neural Network potentials

Klara Bonneau, Jonas Lederer외 4명|arXiv (Cornell University)|2024. 07. 05.

Machine Learning in Materials Science인용 수 7

한 줄 요약

본 논문은 GNN-LRP를 사용하여 뉴럴 네트워크 포텐셜이 학습한 다체 상호작용을 해석하고, 메탄, 물, NTL9 단백질에서 물리적으로 의미 있는 2-체 및 3-체 기여를 보여준다.

ABSTRACT

Machine learned potentials are becoming a popular tool to define an effective energy model for complex systems, either incorporating electronic structure effects at the atomistic resolution, or effectively renormalizing part of the atomistic degrees of freedom at a coarse-grained resolution. One of the main criticisms to machine learned potentials is that the energy inferred by the network is not as interpretable as in more traditional approaches where a simpler functional form is used. Here we address this problem by extending tools recently proposed in the nascent field of Explainable Artificial Intelligence (XAI) to coarse-grained potentials based on graph neural networks (GNN). We demonstrate the approach on three different coarse-grained systems including two fluids (methane and water) and the protein NTL9. On these examples, we show that the neural network potentials can be in practice decomposed in relevance contributions to different orders, that can be directly interpreted and provide physical insights on the systems of interest.

연구 동기 및 목표

• 그래프 신경망 (GNN) 기반의 거친-그레인드 포텐셜이 해석 가능한 다체 상호작용을 인코딩한다는 것을 입증한다.
• 계층별 중요도 전파(LRP)를 GNN에 확장하여 네트워크 에너지를 다체 기여도로 분해한다.
• 간단한 유체에서 서로 다른 GNN 아키텍처를 비교하여 학습된 항의 물리적 관련성이 일관됨을 보인다.
• 해석 프레임워크를 단백질 모델(NTL9)에 적용하여 안정화/불안정화 상호작용을 식별하고 변이의 영향을 평가한다.

제안 방법

• 힘 매칭(force-matching)을 사용하여 열역학적 일관성을 확보한 두 개의 거친-그레인드 GNN 에너지 모델(PaiNN 및 SO3Net)을 원자 수준 데이터로 학습한다.
• GNN-LRP를 적용하여 GNN의 경로를 바탕으로 예측을 n-체 관련도(1-체에서 (N_l+1)-체까지)로 분해한다.
• 반지름 분포 함수(rdf)와 각도 분포와 함께 2-체 및 3-체 관련도를 비교하여 학습된 상호작용을 해석한다.
• NTL9 CG 모델을 분석하여 관련성을 잔류물 쌍 및 삼중으로 매핑하고, 변이가 관련성 패턴에 미치는 영향을 평가한다.

Figure 1: Concept of GNN-LRP illustrated for a system of four particles (i.e. CG beads, in the present context). a) In GNNs, the input graph is defined by a cutoff radius that determines the direct neighbors for each input node. By stacking several message aggregations in multiple layers, informatio

실험 결과

연구 질문

• RQ1 GNN 기반 거친-그레인드 포텐셜를 물리적 상호작용에 상응하는 해석 가능한 다체 기여도로 분해할 수 있는가?
• RQ2 같은 시스템에 대해 서로 다른 GNN 아키텍처가 일관된 다체 관련성 패턴을 만들어내는가?
• RQ3 메탄, 물, NTL9에서 구조적 특성을 재현하는 데 가장 중요한 2-체 및 3-체 상호작용은 무엇인가?
• RQ4 NTL9의 변이가 학습된 관련성과 구조 모티프의 안정성에 어떤 영향을 미치는가?

주요 결과

• GNN-LRP는 CG 에너지를 물리적 직관과 일치하는 의미 있는 2-체 및 3-체 기여도로 분해한다(예: 물에서 첫 번째 용매껍질 둘레의 안정화).
• PaiNN과 SO3Net은 각도 표현과 컷오프가 다름에도 불구하고 일관된 질적 다체 관련성 패턴을 산출하며, 두 모델 모두 핵심 구조적 특징을 재현한다.
• 3-체 항은 물의 각도 구조를 재현하는 데 필수적이며, 2-체만 모델은 물의 올바른 각도 분포를 포착하지 못한다.
• NTL9에서 2-체 관련성은 주요 2차 구조 내의 안정화 접촉을 강조하고, 변이(ILE4ASN, LEU30PHE)는 관련성 패턴의 변화에 반영되듯 특정 소수성/친수성 상호작용을 교란한다.
• 관련성 맵은 접힘 상태와 부분 접힘/중간 상태를 구분하고 경로 특이적 상호작용을 드러내어 알려진 접힘 모티프와 일치한다.

Figure 2: Comparison of radial distribution functions resulting from simulations with an atomistic or CG model and corresponding 2-body relevance. Panels a) and c) correspond to water and b) and d) to methane models. Panels a) and b) show the results for PaiNN-based, and panels c) and d) for SO3Net-