[논문 리뷰] Interpretable bilinear attention network with domain adaptation improves drug-target prediction

Peizhen Bai, Filip Miljković외 2명|arXiv (Cornell University)|2022. 08. 03.

Computational Drug Discovery Methods인용 수 8

한 줄 요약

이 논문은 해석 가능한 약물-타겟 상호작용(DTI) 예측을 위한 도메인 적응을 통한 딥 이중선형 주의망인 DrugBAN을 제안한다. 이는 이중선형 주의 메커니즘을 사용하여 약물과 단백질 간의 국소 서브스트럭처 수준의 상호작용을 명시적으로 모델링하고, 조건부 도메인 적대적 학습을 통해 분포 외 쌍에 대한 일반화를 향상시켜, 도메인 내 및 크로스도메인 설정에서 세 가지 벤치마크 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Predicting drug-target interaction is key for drug discovery. Recent deep learning-based methods show promising performance but two challenges remain: (i) how to explicitly model and learn local interactions between drugs and targets for better prediction and interpretation; (ii) how to generalize prediction performance on novel drug-target pairs from different distribution. In this work, we propose DrugBAN, a deep bilinear attention network (BAN) framework with domain adaptation to explicitly learn pair-wise local interactions between drugs and targets, and adapt on out-of-distribution data. DrugBAN works on drug molecular graphs and target protein sequences to perform prediction, with conditional domain adversarial learning to align learned interaction representations across different distributions for better generalization on novel drug-target pairs. Experiments on three benchmark datasets under both in-domain and cross-domain settings show that DrugBAN achieves the best overall performance against five state-of-the-art baselines. Moreover, visualizing the learned bilinear attention map provides interpretable insights from prediction results.

연구 동기 및 목표

• 약물 서브스트럭처와 단백질 결합 부위 간의 국소 상호작용을 명시적으로 모델링하여 DTI 예측 성능과 해석 가능성 향상을 위한 도전 과제 해결.
• 다른 데이터 분포 간의 도메인 이동을 완화시켜 새로운 분포 외의 약물-타겟 쌍에 대한 모델 일반화 능력 향상.
• 분자의 그래프 표현과 단백질 서열 표현을 주의 기반 상호작용 모델링과 통합한 딥 러닝 프레임워크 개발.
• 학습된 이중선형 주의 맵을 통해 예측의 시각적 해석 가능성 제공.
• 도메인 내 및 크로스도메인 DTI 예측 시나리오 모두에서 견고한 성능 달성.

제안 방법

• DrugBAN은 약물 분자의 그래프를 그래프 컬러레이션 네트워크(GCNs)로, 단백질 서열을 1D-CNNs로 인코딩하여 국소 서브스트럭처 및 서브시퀀스 표현을 생성.
• 저랭크 변환 행렬을 사용하여 이중선형 주의 네트워크가 약물 및 단백질 표현 간의 상호작용 맵을 계산하여 서브스트럭처 수준의 상호작용 강도를 모델링.
• 공유 행렬을 사용한 이중선형 풀링을 통해 공동 표현을 형성하고, 최종 DTI 확률 예측을 위한 완전 연결 디코더를 적용.
• 조건부 도메인 적대적 학습(CDAN)을 적용하여 소스 도메인과 타겟 도메인 간의 공동 표현과 예측 로짓을 정렬함으로써 도메인 이동 감소.
• 최대 100 에포크로 설정된 엔드 투 엔드 학습을 수행하며, 교차 엔트로피 손실과 검증 AUROC 기반 조기 정지 전략을 사용.
• 학습된 이중선형 주의 맵을 시각화하여 예측의 해석 가능성을 제공하며, 주로 상호작용하는 핵심 서브스트럭처를 강조.

실험 결과

연구 질문

• RQ1 약물과 단백질 간의 국소 서브스트럭처 수준의 상호작용을 명시적으로 모델링하면 DTI 예측 성능과 해석 가능성 향상에 기여할 수 있는가?
• RQ2 도메인 적응 기법은 분포 외 약물-타겟 쌍에 대한 DTI 모델의 일반화 능력을 향상시킬 수 있는가?
• RQ3 제안된 DrugBAN 프레임워크는 도메인 내 및 크로스도메인 DTI 예측 설정에서 최신 기술 수준(SOTA) 방법과 비교해 어떻게 성능을 내는가?
• RQ4 주의 맵이 예측된 상호작용에 대해 의미 있는 해석 가능한 통찰을 제공하는 정도는 어느 정도인가?
• RQ5 이중선형 주의와 도메인 적응의 통합이 다양한 화학적 및 게놈 공간에서 더 견고하고 일반화 가능한 DTI 예측을 이끌어낼 수 있는가?

주요 결과

• DrugBAN은 BindingDB, BioSNAP 및 Human 세 가지 벤치마크 데이터셋에서 다섯 가지 최신 기술 수준(SOTA) 기준 모델보다 모두 최고의 종합 성능 기록.
• 크로스도메인 설정에서 DrugBAN은 일반화 능력이 크게 향상되어 예상치 못한 데이터 분포에서도 견고함을 입증.
• 모든 데이터셋에서 최신 기술 수준의 AUROC 스코어를 확보하며, GraphDTA 및 MolTrans와 같은 기준 모델들보다 구체적인 향상 효과 기록.
• 시각화된 이중선형 주의 맵은 약물의 핵심 상호작용 서브스트럭처와 단백질의 결합 부위를 강조하여 의미 있는 해석 가능 통찰 제공.
• 절단 실험 결과 이중선형 주의 메커니즘과 도메인 적응 모두 성능 향상에 기여함을 확인.
• 모델는 하이퍼파rameter 설정에 대해 강건하고 낮은 민감도를 보이며, 다양한 설정에서 안정적인 성능 유지.