[논문 리뷰] Quantitative toxicity prediction using topology based multi-task deep neural networks

Kedi Wu, Guo‐Wei Wei|arXiv (Cornell University)|2017. 12. 09.

Topological and Geometric Data Analysis참고 문헌 32인용 수 14

한 줄 요약

이 논문은 다중작업 딥 뉴럴 네트워크(MT-DNN)와 물리적 기술자와 통합된 요소별 지속 호모로지(ESPH)를 제안하여 정량적 독성 예측을 위한 새로운 위상 기반 기술자로 사용한다. 이 방법은 네 가지 벤치마크 독성 데이터셋에서 최신 기술을 초월하는 성능을 보이며, 높은 기술자 커버리지와 낮은 계산 비용 덕분에 뛰어난 견고성과 광범위한 적용 가능성을 보여준다.

ABSTRACT

The understanding of toxicity is of paramount importance to human health and environmental protection. Quantitative toxicity analysis has become a new standard in the field. This work introduces element specific persistent homology (ESPH), an algebraic topology approach, for quantitative toxicity prediction. ESPH retains crucial chemical information during the topological abstraction of geometric complexity and provides a representation of small molecules that cannot be obtained by any other method. To investigate the representability and predictive power of ESPH for small molecules, ancillary descriptors have also been developed based on physical models. Topological and physical descriptors are paired with advanced machine learning algorithms, such as deep neural network (DNN), random forest (RF) and gradient boosting decision tree (GBDT), to facilitate their applications to quantitative toxicity predictions. A topology based multi-task strategy is proposed to take the advantage of the availability of large data sets while dealing with small data sets. Four benchmark toxicity data sets that involve quantitative measurements are used to validate the proposed approaches. Extensive numerical studies indicate that the proposed topological learning methods are able to outperform the state-of-the-art methods in the literature for quantitative toxicity analysis. Our online server for computing element-specific topological descriptors (ESTDs) is available at http://weilab.math.msu.edu/TopTox/

연구 동기 및 목표

• 고차원의 화학적 데이터를 가진 소규모이고 희박한 독성 데이터셋을 다룰 때 기존 QSAR 모델의 한계를 해결하기 위해.
• 위상 추상화를 통해 필수적인 화학적 및 기하학적 정보를 유지하는 새로운 유형의 분자 기술자를 개발하기 위해.
• 위상 기반 기술자와 고급 기계학습 모델, 특히 다중작업 딥 뉴럴 네트워크를 통합하여 정량적 독성 분석에서 예측 정확도를 향상시키기 위해.
• 복잡한 물리 모델이나 힘장에 의존하지 않는 확장성 있고 계산 비용이 낮으며 광범위하게 적용 가능한 독성 예측 방법을 제공하기 위해.

제안 방법

• 기하학적 단순화 과정에서 요소별 정보를 유지하는 위상 기반 기술자를 생성하기 위해 요소별 지속 호모로지(ESPH)를 제안한다.
• 기존 물리 모델에 기반한 보조 물리적 기술자를 개발하여 위상 기술자의 표현력을 향상시킨다.
• 관련된 독성 지표 간의 공유 표현을 활용하기 위해 다중작업 딥 뉴럴 네트워크(MT-DNN) 프레임워크를 사용한다. 이는 소규모 데이터셋에서 일반화 능력을 향상시킨다.
• 여러 알고리즘의 예측을 평균내어 일관성 있는 예측을 얻고, 특히 더 큰 데이터셋에서의 정확도 향상과 견고성을 높이기 위해 공식 모델링을 적용한다.
• 모델 검증을 위해 네 가지 벤치마크 정량적 독성 데이터셋—LC50 (지방어미), LC50-DM (다프니아 망고), IGC50 (테트라힐리움), LD50 (구강 래트)—을 사용한다.
• 공개 접근을 위해 http://weilab.math.msu.edu/TopTox/ 에 온라인 서버를 구축하여 ESTD 계산에 대한 널리 활용 가능성을 제공하며, 이는 신약 개발 및 환경 안전 연구 분야에서 널리 채택될 수 있도록 한다.

실험 결과

연구 질문

• RQ1 요소별 지속 호모로지(ESPH)는 소분자에서 정량적 독성 예측에 있어 강력하고 일반화 가능한 기술자로 기능할 수 있는가?
• RQ2 위상 기반 기술자와 다중작업 딥 러닝의 통합은 특히 소규모 또는 희박한 데이터셋에서 예측 정확도를 어떻게 향상시키는가?
• RQ3 위상 기술자와 물리 기술자를 결합하면 단독으로 사용할 경우보다 예측 성능이 향상되는가?
• RQ4 다양한 크기의 독성 데이터셋에서 공식 모델링은 개별 모델과 비교해 견고성과 정확도 측면에서 어떻게 다른가?
• RQ5 제안된 방법은 T.E.S.T.와 같은 기존의 표준 도구와 비교해 최신 기술 수준에 도달할 수 있는가?

주요 결과

• 제안된 위상 기반 다중작업 딥 뉴럴 네트워크(MT-DNN) 모델은 네 가지 벤치마크 독성 데이터셋에서 최신 기술 수준의 모델인 T.E.S.T. 공식 모델을 모두 능가한다.
• 물리 기술자와 요소별 위상 기술자(ESTD)의 통합은 예측 정확도를 크게 향상시키며, 상호 보완적인 정보의 유용성을 입증한다.
• MT-DNN 모델은 모든 데이터셋에서 랜덤 포레스트 및 기울기 부스팅 결합 트리와 같은 앙상블 방법보다 일관되게 뛰어난 성능을 보인다.
• 공식 모델링은 더 큰 데이터셋(LC50, IGC50, LD50)에서 예측 정확도를 향상시키지만, 가장 작은 데이터셋(LC50-DM)에서는 과적합으로 인해 성능이 떨어진다.
• ESTD 기술자는 계산 비용이 낮고 모든 분자에서 거의 100% 커버리지를 달성하여 실세계 응용에 매우 실용적이다.