[논문 리뷰] Accurate Clinical Toxicity Prediction using Multi-task Deep Neural Nets and Contrastive Molecular Explanations

Bhanushee Sharma, Vijil Chenthamarakshan외 5명|arXiv (Cornell University)|2022. 04. 13.

Computational Drug Discovery Methods인용 수 11

한 줄 요약

이 논문은 멀티태스크 딥 뉴럴 네트워크를 사용하여 멜로닉 포인터프린트와 사전 훈련된 SMILES 임베딩을 활용해 in vitro, in vivo, 임상 독성 예측을 동시에 수행하며, MoleculeNet 벤치마크에서 최신 기술 수준의 성능을 달성한다. 또한 알려진 독성포어(Toxicophores)와 일치하는 Pertinent Positive 및 Negative 특징을 통한 대조적 설명을 도입하여 모델의 해석 가능성 향상과 동시에 in vitro/in vivo 독성포어 복구에 대한 선호도를 드러낸다.

ABSTRACT

Explainable ML for molecular toxicity prediction is a promising approach for efficient drug development and chemical safety. A predictive ML model of toxicity can reduce experimental cost and time while mitigating ethical concerns by significantly reducing animal and clinical testing. Herein, we use a deep learning framework for simultaneously modeling in vitro, in vivo, and clinical toxicity data. Two different molecular input representations are used: Morgan fingerprints and pre-training SMILES embeddings. A multi-task deep learning model accurately predicts toxicity for all endpoints, including clinical, as indicated by AUROC and balanced accuracy. In particular, SMILES embeddings as input to the multi-task model improved clinical toxicity predictions compared to existing models in MoleculeNet benchmark. Additionally, our multi-task approach is comprehensive in the sense that it is comparable to state-of-the-art approaches for specific endpoints in in vitro, in vivo and clinical platforms. Through both the multi-task model and transfer learning, we were able to indicate the minimal need of in vivo data for clinical toxicity predictions. To provide confidence and explain the model's predictions, we adapt a post-hoc contrastive explanation method that returns pertinent positive and pertinent negative features, which correspond well to known mutagenic and reactive toxicophores, such as unsubstituted bonded heteroatoms, aromatic amines, and Michael receptors. Furthermore, toxicophore recovery by pertinent feature analysis captures more of the in vitro (53%) and in vivo (56%), rather than of the clinical (8%), endpoints, and indeed uncovers a preference in known toxicophore data towards in vitro and in vivo experimental data. To our knowledge, this is the first contrastive explanation, using both present and absent substructures, for predictions of clinical and in vivo molecular toxicity.

연구 동기 및 목표

• 약물 후보 물질의 독성으로 인한 높은 실패율을 감안할 때, 기계 학습을 활용해 임상 독성을 정확히 예측하는 데 도전한다.
• 단일 작업 모델의 한계를 극복하기 위해 in vitro, in vivo, 임상 독성 지표를 동시에 모델링할 수 있는 통합된 딥 러닝 프레임워크를 개발한다.
• 모델 예측에 대한 실질적이고 신뢰할 수 있는 설명을 제공하기 위해, 존재하는(본질적 양성, Pertinent Positive) 및 존재하지 않는(본질적 음성, Pertinent Negative) 분자 부분 구조를 식별하는 대조적 설명 방법을 도입한다.
• 비용이 많이 들고 윤리적으로 민감한 in vivo 데이터 의존도를 줄이기 위해 전이 학습과 멀티태스크 훈련을 활용한다.
• 모델의 설명이 알려진 돌연변이성 및 반응성 독성포어와 일치함을 검증함으로써 약물 개발에서 신뢰도와 활용도를 높인다.

제안 방법

• 공유 및 작업별 전용 레이어를 갖춘 멀티태스크 딥 뉴럴 네트워크(MT-DNN)가 Tox21(in vitro), RTECS(in vivo), ClinTox(임상)의 세 가지 독성 지표를 대상으로 훈련된다.
• 두 가지 분자 입력 표현 방식이 사용되며, 멜로닉 포인터프린트와 사전 훈련된 SMILES 임베딩이 포함되며, 후자가 임상 독성 예측에서 뛰어난 성능을 보였다.
• 전이 학습은 Tox21과 RTECS에서 사전 훈련한 후, ClinTox 작업에 대해 소수의 에포크(1회)로 미세조정함으로써 적용된다.
• 대조적 설명 방법(CEM)이 변형되어 L1 및 L2 정규화와 오토에인코더 기반 복원 손실을 포함한 최적화 문제를 해결함으로써 본질적 양성(PP) 및 본질적 음성(PN) 특징을 생성한다.
• 최적화는 입력 분자의 예측을 변화시키는 최소한의 필수 변형을 찾기 위해 투영된 빠른 반복 수축-임계처리 알고리즘(FISTA)을 사용한다.
• 오토에인코더는 변형된 분자가 화학적으로 타당성을 유지하도록 보장하며, γ-가중 정규화를 통한 복원 손실이 강제된다.

실험 결과

연구 질문

• RQ1 공유 및 작업별 표현을 사용하여, 멀티태스크 딥 러닝 모델이 in vitro, in vivo, 임상 플랫폼에서 동시에 정확하게 독성을 예측할 수 있는가?
• RQ2 기존의 분자 포인터프린트에 비해 사전 훈련된 SMILES 임베딩을 사용할 경우, 임상 독성 예측 성능이 향상되는가?
• RQ3 전이 학습을 통해 in vivo 데이터가 필요한 정도가 얼마나 줄어들 수 있는가?
• RQ4 대조적 설명(Pertinent Positive 및 Negative)이 불치환 헤테로원소, 아로마틱 아민, 마이클 수용체와 같은 알려진 독성포어를 식별할 수 있는가?
• RQ5 왜 모델의 설명 성능이 in vitro 및 in vivo 독성포어보다 임상 독성포어와 더 강하게 상관되는가?

주요 결과

• 사전 훈련된 SMILES 임베딩을 사용한 멀티태스크 모델은 MoleculeNet 벤치마크에서 임상 독성 예측 분야에서 최신 기술 수준의 성능을 달성하였다.
• 모델은 모든 플랫폼에서 높은 예측 정확도를 보였으며, ROC 곡선 아래 면적 및 균형 정확도 지표를 통해 강력한 일반화 능력을 입증하였다.
• 본질적 양성 및 음성 특징을 통한 독성포어 복원은 알려진 in vitro 독성포어의 53%와 in vivo 독성포어의 56%를 포괄했지만, 임상 독성포어는 8%에 그쳤다.
• 독성포어 복원 비율의 격차는 알려진 독성포어 데이터베이스에 in vitro 및 in vivo 실험 데이터에 대한 데이터 편향이 있음을 시사한다.
• 대조적 설명은 아로마틱 아민, 불치환 헤테로원소, 마이클 수용체와 같은 생물학적으로 관련성이 있는 부분 구조를 독성 예측의 주요 기여 요소로 성공적으로 식별하였다.
• 전이 학습의 활용은 극소수의 in vivo 데이터로도 효과적인 임상 독성 예측이 가능하게 하여, 모델의 데이터 효율성과 동물 실험 감소 잠재력을 입증하였다.