[논문 리뷰] ATOM3D: Tasks On Molecules in Three Dimensions

Raphael J.L. Townshend, Martin Vögele외 11명|arXiv (Cornell University)|2020. 01. 01.

Machine Learning in Materials Science참고 문헌 64인용 수 16

한 줄 요약

ATOM3D는 생물분자의 다양한 작업에서 3D 합성곱 신경망, 그래프 신경망, 등변성 신경망을 평가하는 종합적인 벤치마크 세트와 오픈소스 툴킷을 소개한다. 3D 표현 방식이 일관되게 1D/2D 방법보다 뛰어나며, 3DCNN은 기하학적 특성이 두드러지는 작업에서 뛰어난 성능을 보이고, 등변성 신경망은 향후 발전에 매우 유망한 전망을 보인다.

ABSTRACT

Computational methods that operate on three-dimensional molecular structure have the potential to solve important questions in biology and chemistry. In particular, deep neural networks have gained significant attention, but their widespread adoption in the biomolecular domain has been limited by a lack of either systematic performance benchmarks or a unified toolkit for interacting with molecular data. To address this, we present ATOM3D, a collection of both novel and existing benchmark datasets spanning several key classes of biomolecules. We implement several classes of three-dimensional molecular learning methods for each of these tasks and show that they consistently improve performance relative to methods based on one- and two-dimensional representations. The specific choice of architecture proves to be critical for performance, with three-dimensional convolutional networks excelling at tasks involving complex geometries, graph networks performing well on systems requiring detailed positional information, and the more recently developed equivariant networks showing significant promise. Our results indicate that many molecular problems stand to gain from three-dimensional molecular learning, and that there is potential for improvement on many tasks which remain underexplored. To lower the barrier to entry and facilitate further developments in the field, we also provide a comprehensive suite of tools for dataset processing, model training, and evaluation in our open-source atom3d Python package. All datasets are available for download from https://www.atom3d.ai .

연구 동기 및 목표

• 생물학 및 화학 분야에서 3D 분자 기계학습을 위한 체계적인 벤치마크와 표준화된 툴링의 부족을 해결하기 위해.
• 원자 구조 기하학을 기반으로 3D 딥러닝 모델을 생물분자 작업에서 평가하기 위한 통합 프레임워크를 구축하기 위해.
• 오픈소스 툴, 정제된 데이터셋, 3D 분자 학습을 위한 최선의 실천 방법을 제공함으로써 연구자들이 접근하기 쉬운 환경을 조성하기 위해.
• 다양한 분자 작업을 대상으로 3D 학습 아키텍처(3DCNN, GNN, ENN)를 1D/2D 기반 모델과 체계적으로 비교하기 위해.
• 특히 단백질-리간드 결합 및 전자적 성질 예측 분야에서 3D 분자 표현 학습의 핵심 과제와 기회를 규명하기 위해.

제안 방법

• 단백질-리간드 결합, 전자적 성질, 단백질-리간드 자세 순위 매기기 등의 작업을 포함한 구조 생물학 및 의약 화학 분야의 3D 분자 데이터셋을 정제하고 처리하였다.
• 주요 3가지 3D 학습 아키텍처인 3D 합성곱 신경망(3DCNN), 기하학적 그래프 신경망(GNN), 등변성 신경망(EN)을 구현하고 평가하였다.
• 원자 중심의 3D 좌표와 원소 유형을 사용한 표준화된 데이터 표현 방식을 도입하여 다양한 생물분자 간 일관성 있는 처리를 가능하게 하였다.
• 특히 회전 및 이동 불변성에 유리한 일반화 성능 향상을 위해 데이터 증강 및 대칭 고려 학습 기법을 적용하였다.
• 모든 작업에서 공통된 평가 지표(예: AUROC, RMSE, 평균 절대 오차)를 사용하여 이전 최고 성능(SOTA) 방법과의 공정한 비교를 가능하게 하였다.
• 모든 데이터셋, 모델, 평가 파이프라인을 재현 가능하고 확장 가능한 오픈소스 Python 패키지 atom3d에 통합하였다.

실험 결과

연구 질문

• RQ1 3D 딥러닝 모델은 분자 성질 및 상호작용 예측에서 1D 및 2D 기반 모델 대비 어떻게 비교되는가?
• RQ2 3DCNN, GNN, 또는 ENN 중 어떤 신경망 아키텍처가 다양한 종류의 3D 분자 작업에서 가장 우수한 성능을 내는가?
• RQ3 3D 원자 기하학을 통합할 경우 단백질-리간드 결합 친화도 예측 및 전자적 성질 추정과 같은 작업에서 성능 향상 정도는 어느 정도인가?
• RQ4 일부 단백질 집합에서 학습하고 다른 단백질(낮은 서열 일치도)에서 테스트할 경우 3D 분자 모델의 일반화 능력은 어느 정도인가?
• RQ5 3D 분자 표현 학습 분야의 핵심 과제와 기회는 무엇이며, 표준화된 벤치마크와 도구를 통해 어떻게 해결할 수 있는가?

주요 결과

• 3D 표현 방식은 1D 및 2D 기반 모델 대비 모든 벤치마크 작업에서 일관되게 성능 향상을 보였으며, 3DCNN은 기하학적 특성이 두드러지는 작업(예: 단백질 구조 순위 매기기, PSR, RSR)에서 최고 성능을 기록하였다.
• 등변성 신경망(ENs)은 LEP 작업(리간드 효과성 예측)에서 최고 성능을 기록하여 AUROC 0.770을 달성했으며, 3DCNN(0.681) 및 GNN(0.663) 기반 모델을 크게 앞서갔다.
• LBA 작업(리간드 결합 친화도 예측)에서 3DCNN은 RMSE 1.416을 기록하여 비-3D 기반 모델인 X-score(RMSE 1.565)를 능가했으며, 30% 일치도 분할 테스트에서도 뛰어난 일반화 성능를 보였다.
• GNN은 정확한 위치 정보가 필요한 작업(예: RES, 잔류물 접촉 예측)에서 뛰어난 성능를 보였으며, 정확도 0.451을 기록했지만, 기하학적 특성이 두드러지는 작업에서는 여전히 3DCNN에 뒤지지 않았다.
• 3DCNN 모델은 SMP 작업(전자적 성질 예측)에서 평균 절대 오차(MAE) 0.052를 기록하여 3D GNN(0.137) 및 3D ENN(0.095)을 크게 앞서며, 아키텍처의 작업 유형에 대한 민감도를 입증하였다.
• atom3d 툴킷을 통해 재현 가능한 학습 및 평가가 가능했으며, 모든 데이터셋과 모델는 www.atom3d.ai 에 공개되어 향후 3D 분자 학습 분야의 연구를 촉진하였다.