[논문 리뷰] 3DMolNet: A Generative Network for Molecular Structures

Vitali Nesterov, Mario Wieser외 1명|arXiv (Cornell University)|2020. 10. 08.

Machine Learning in Materials Science참고 문헌 41인용 수 25

한 줄 요약

3DMolNet는 캐논칼 원자 순서를 사용하여 연속적이고 이동, 회전, 순열에 대해 불변인 잠재 공간을 학습하는 변동형 오토인코더 기반의 3D 분자 구조 생성 모델을 제안한다. 무거운 원자 좌표의 재구성 오차가 0.05 Å 미만으로, 최신 기술보다 네 배 더 우수하며, 유효한 기하학적 구조와 새로운 화학 구조를 가진 고해상도의 다채로운 분자 생성을 가능하게 한다.

ABSTRACT

With the recent advances in machine learning for quantum chemistry, it is now possible to predict the chemical properties of compounds and to generate novel molecules. Existing generative models mostly use a string- or graph-based representation, but the precise three-dimensional coordinates of the atoms are usually not encoded. First attempts in this direction have been proposed, where autoregressive or GAN-based models generate atom coordinates. Those either lack a latent space in the autoregressive setting, such that a smooth exploration of the compound space is not possible, or cannot generalize to varying chemical compositions. We propose a new approach to efficiently generate molecular structures that are not restricted to a fixed size or composition. Our model is based on the variational autoencoder which learns a translation-, rotation-, and permutation-invariant low-dimensional representation of molecules. Our experiments yield a mean reconstruction error below 0.05 Angstrom, outperforming the current state-of-the-art methods by a factor of four, and which is even lower than the spatial quantization error of most chemical descriptors. The compositional and structural validity of newly generated molecules has been confirmed by quantum chemical methods in a set of experiments.

연구 동기 및 목표

• 자기회귀적 3D 분자 생성 모델에서 연속적인 잠재 공간의 부족을 해결함으로써 화합물 공간의 매끄러운 탐색을 가능하게 하기 위해.
• 고정된 화학 조성을 가진 GAN 기반 모델의 조성 특화 제약을 극복하기 위해.
• 정확한 원자 좌표, 결합 유형, 화학 조성을 갖춘 고정밀 3D 분자 구조 생성을 가능하게 하기 위해.
• 연속적인 잠재 공간 샘플링과 양자화학적 검증을 통해 새로운 화학적으로 타당한 분자를 탐색할 수 있도록 하기 위해.
• 핵전하, 거리, 결합 행렬을 사용한 한 번의 연산으로 가능한 미분 가능하고 불변인 분자 구조 표현을 제공하기 위해.

제안 방법

• 모델은 분자의 저차원적이고 연속적인 잠재 표현을 학습하기 위해 변동형 오토인코더(VAE)를 사용하며, 이는 이동, 회전, 원자 순열에 대해 불변이다.
• 분자 표현에서 순열 문제를 해결하기 위해 중성자 원자에 대한 캐논칼 순서(기반 InChI)를 적용한다.
• 모델은 세 가지 구성 요소를 별도로 복원한다: 핵전하 행렬, 유클리드 거리 행렬(EDM), 그리고 결합 행렬이며, 신경망을 사용한다.
• 복원된 EDM와 핵전하 행렬로부터 고전적 다차원 척도법(MDS)을 통해 3D 좌표를 재구성하며, 수소 원자는 양자역학적 최적화를 통해 후행적으로 추가한다.
• VAE는 QM9 데이터셋에서 끝에서 끝까지 훈련되며, 원자 좌표의 RMSD 기반 재구성 손실과 결합 유형 및 조성 충실도 검증을 포함한다.
• 잠재 공간 탐색은 학습된 가우시안 사전에서 샘플링을 통해 수행되며, 다양한 조성을 가진 새로운 분자 구조 생성을 가능하게 한다.

실험 결과

연구 질문

• RQ1 VAE 기반 생성 모델은 이동, 회전, 원자 순열에 대해 불변성을 유지하면서도 고정밀 3D 분자 구조 재구성 성능을 달성할 수 있는가?
• RQ2 연속적인 잠재 공간 샘플링을 통해 다양한 화학 조성을 가진 새로운 분자 구조와 유효한 기하학적 구조를 생성할 수 있는가?
• RQ3 좌표 재구성 정밀도와 다양한 조성에 대한 일반화 능력 측면에서 기존의 자기회귀적 및 GAN 기반 방법보다 모델이 뛰어난가?
• RQ4 생성된 분자가 결합 유형과 화학 조성 측면에서 얼마나 정확하게 유지되며, 양자역학적 안정화 후 기하학적 구조는 얼마나 안정적인가?
• RQ5 잠재 공간 내에서 매끄러운 보간과 생성을 통해 화합물 공간의 의미 있는 탐색을 모델이 가능하게 하는가?

주요 결과

• 무거운 원자 좌표에 대해 평균 재구성 오차가 0.05 Å 이하로, 최신 기술보다 네 배 우수하다.
• 재구성 정밀도가 일반적인 화학 기술자의 공간 양자화 오차 이하이므로 고해상도를 보여준다.
• 잠재 공간 샘플링을 통해 QM9 데이터셋에 중복 없이 20,000개 이상의 새로운 화학 조성을 가진 분자 구조가 발견되었다.
• MOPAC 기반 기하학적 안정화 후, 생성된 구조와 평형 구조 간 평균 RMSD는 0.32 Å이었으며, 무거운 원자가 가장 적은 변형을 보였다.
• 재구성 과정에서 정확한 화학 조성과 결합 유형을 성공적으로 유지하였으며, 양자화학적 방법으로 높은 유효성 확인이 이루어졌다.
• 기하학적 안정화 후 RMSD 변동의 주요 원인은 수소 원자였지만, 화학적 기능성에 있어 위치가 덜 중요하므로, 모델이 무거운 원자 정확도에 집중하는 것이 타당하다.