[논문 리뷰] Advancements in Molecular Property Prediction: A Survey of Single and Multimodal Approaches

Tanya Liyaqat, Tanvir Ahmad외 1명|arXiv (Cornell University)|2024. 08. 18.

Computational Drug Discovery Methods인용 수 4

한 줄 요약

이 종합 검토는 분자 성질 예측을 위한 단일 및 다중 모odal 딥 러닝 접근법에 대한 포괄적인 분석을 제공하며, GNN, 트랜스포머, 다중 모달 융합 기술을 포함한 표현 학습 기법에 초점을 맞춘다. 분자 데이터 표현의 핵심 과제를 규명하고 최신 기법들을 평가하며, 설명 가능성, 불확실성 측정, 효율적 학습 프레임워크 등 향후 연구 방향을 제시한다.

ABSTRACT

Molecular Property Prediction (MPP) plays a pivotal role across diverse domains, spanning drug discovery, material science, and environmental chemistry. Fueled by the exponential growth of chemical data and the evolution of artificial intelligence, recent years have witnessed remarkable strides in MPP. However, the multifaceted nature of molecular data, such as molecular structures, SMILES notation, and molecular images, continues to pose a fundamental challenge in its effective representation. To address this, representation learning techniques are instrumental as they acquire informative and interpretable representations of molecular data. This article explores recent AI/-based approaches in MPP, focusing on both single and multiple modality representation techniques. It provides an overview of various molecule representations and encoding schemes, categorizes MPP methods by their use of modalities, and outlines datasets and tools available for feature generation. The article also analyzes the performance of recent methods and suggests future research directions to advance the field of MPP.

연구 동기 및 목표

• 최근의 AI 기반 분자 성질 예측 방법에 대한 체계적인 검토를 제공하며, 표현 학습 기법에 중점을 둔다.
• SMILES, 분자 그래프, 이미지 등을 포함한 단일 및 다중 모달 접근법을 분류하고 분석한다.
• 벤치마크 데이터셋을 기반으로 최신 모델의 성능을 평가하고 현재의 방법론에 존재하는 격차를 규명한다.
• 불확실성 측정, 모델 설명 가능성, 데이터 효율성과 같은 새로운 과제들을 부각한다.
• 일부 샘플 학습, 연합 학습, 대비 학습을 포함한 향후 연구 방향을 제시하여 일반화 능력과 강건성을 향상시킨다.

제안 방법

• 논문은 모odal 기반 분류 체계를 활용한 종합 검토 방법론을 적용하여, 단일 모달(예: SMILES, 그래프) 또는 다중 모달(예: SMILES, 이미지, 3D 구조 결합)로 MPP 방법을 분류한다.
• 분자 표현 학습을 위한 핵심 딥 러닝 아키텍처인 그래프 신경망(GNNs), 트랜스포머, 순환 신경망(RNNs), 합성곱 신경망(CNNs)을 검토한다.
• 조기 융합, 후기 융합, 주의 기반 버티브 등 다양한 다중 모달 융합 전략을 평가하여 다양한 데이터 유형 간의 정보 통합을 효과적으로 수행한다.
• 대비 학습 및 자기 지도 사전 학습과 같은 표현 학습 기법을 분석하여 특징 품질 향상과 일반화 능력 향상을 도모한다.
• 주의도 맵, 민감도 맵, 특징 중요도 점수와 같은 설명 가능성 기법을 검토하여 분자 예측에서 모델의 해석 가능성성을 향상시킨다.
• 데이터 부족과 기밀 보호 문제를 해결하기 위해 메타 학습, 일부 샘플 학습, 연합 학습과 같은 고급 학습 프레임워크를 논의한다.

Figure 1. The structure of the overall review.

실험 결과

연구 질문

• RQ1 GNN, SMILES 기반 RNN 등 단일 모달 표현 기법이 분자 성질 예측 작업 전반에서 성능과 일반화 능력 측면에서 어떻게 비교되는가?
• RQ2 분자 데이터 유형(예: SMILES, 2D/3D 구조, 이미지)을 융합하는 데 가장 효과적인 다중 모달 융합 전략은 무엇인가?
• RQ3 최근의 불확실성 측정 및 모델 설명 가능성 기법의 발전이 분자 성질 예측의 신뢰성과 신뢰도에 어떤 영향을 미치는가?
• RQ4 메타 학습과 일부 샘플 학습이 약물 발견에서 흔한 저데이터 환경에서 모델의 일반화 능력을 얼마나 향상시킬 수 있는가?
• RQ5 연합 학습과 자기 지도 학습을 활용해 효율적이고 기밀 보장이 되며 확장 가능한 MPP 모델을 개발하는 데 있어 핵심 과제와 기회는 무엇인가?

주요 결과

• 그래프 신경망(GNNs)과 트랜스포머 기반 모델은 분자 그래프와 SMILES 문자열에서 구조적 표현을 학습하는 데 주요 아키텍처로 부상했다.
• 특히 복잡한 성질 예측 작업에서 SMILES, 2D 구조, 분자 이미지를 융합한 다중 모달 통합은 단일 모달 기반 모델 대비 예측 성능 향상을 이끌어냈다.
• 주의 메커니즘과 융합 버티브는 다양한 모달 간의 정보 정제를 효과적으로 가능하게 하여 차원을 감소시키면서도 핵심 예측 신호를 유지한다.
• 대비 학습은 유사한 및 비유사한 분자 패턴을 구분하도록 학습시켜 표현 품질을 향상시키고, 후속 예측 정확도를 높인다.
• 진전에도 불구하고 불확실성 측정은 방법 간 일관성이 떨어지며, 최적 기법에 대한 합의가 없어 중요한 열린 과제로 남아 있다.
• 주의도 맵과 민감도 시각화와 같은 설명 가능한 AI(XAI) 기법은 GNN 및 트랜스포머 예측을 해석하는 데 점점 더 널리 사용되고 있으나, 강력하고 일반화 가능한 설명 프레임워크는 여전히 개발이 부족한 상태이다.

Figure 2. Various input representations of molecules utilized in MPP