[논문 리뷰] Toxicity Prediction using Deep Learning

Thomas Unterthiner, Andreas Mayr외 2명|arXiv (Cornell University)|2015. 03. 04.

Computational Drug Discovery Methods참고 문헌 31인용 수 92

한 줄 요약

이 논문은 전문가가 설계한 독성 중심체와 유사한 화학적 특징을 자동으로 학습하는 딥 러닝 기반의 독성 예측 방법을 제안한다. ECFP4 지문을 기반으로 한 딥 네ural 웹을 사용하여, Tox21 데이터 챌린지에서 모든 기술적 접근 방식을 압도했으며, 3개의 전반적 부문(그랜드 챌린지 포함)에서 최고 성능을 기록하여 15개의 하위 챌린지 전반에서 최신 기술 수준(SOTA) 성능을 달성했다.

ABSTRACT

Everyday we are exposed to various chemicals via food additives, cleaning and cosmetic products and medicines -- and some of them might be toxic. However testing the toxicity of all existing compounds by biological experiments is neither financially nor logistically feasible. Therefore the government agencies NIH, EPA and FDA launched the Tox21 Data Challenge within the "Toxicology in the 21st Century" (Tox21) initiative. The goal of this challenge was to assess the performance of computational methods in predicting the toxicity of chemical compounds. State of the art toxicity prediction methods build upon specifically-designed chemical descriptors developed over decades. Though Deep Learning is new to the field and was never applied to toxicity prediction before, it clearly outperformed all other participating methods. In this application paper we show that deep nets automatically learn features resembling well-established toxicophores. In total, our Deep Learning approach won both of the panel-challenges (nuclear receptors and stress response) as well as the overall Grand Challenge, and thereby sets a new standard in tox prediction.

연구 동기 및 목표

• 생물학적으로 비현실적인 고속 스크리닝을 초월해 확장 가능한 화학 독성 예측을 위한 계산 기반 방법을 개발하기 위해.
• 수작업으로 설계된 기술적 특징에 의존하거나 알려진 3차원 구조가 필요한 전통적인 구조 기반 또는 리간드 기반 방법의 한계를 극복하기 위해.
• 딥 러닝을 독성 예측 분야에 적용하여, 자동 특징 학습의 잠재력을 평가하기 위해.
• 딥 네럴 웹이 화학 지문에서 직접 유의미하고 생물학적으로 관련된 표현 방식(예: 독성 중심체)을 학습할 수 있음을 입증하기 위해.
• 다양한 생물학적 경로와 시험을 통해 평가되는 Tox21 데이터 챌린지에서 뛰어난 성능을 달성하기 위해.

제안 방법

• 화합물의 부분 구조를 인코딩하는 ECFP4 지문을 기반으로 훈련된 딥 네럴 웹을 활용함.
• 계층적 특징 학습 적용: 저수준의 ECFP4 특징이 깊은 층에서 조합되어 반응 중심체를 형성하고, 궁극적으로 독성 중심체로 이어짐.
• 12개의 다른 생물학적 시험(예: 핵 수용체 및 스트레스 반응 경로)에서 동시에 독성을 예측하기 위해 다중 작업 학습을 적용함.
• 역전파와 확률적 경사 하강법을 사용해 엔드 투 엔드로 모델을 훈련하고, AUC(ROC 곡선 아래 면적)를 최적화함.
• 과적합 방지를 위해 드롭아웃과 배치 정규화를 활용하여 다양한 화학적 구조에 대한 일반화 능력을 향상시킴.
• 다양한 독성 예측 작업 간에 표현을 공유함으로써 전이 학습 원리를 활용하여, 데이터가 적은 타겟에 대한 성능 향상 달성.

실험 결과

연구 질문

• RQ1 딥 네럴 웹은 전문가가 설계한 기술적 특징 없이도 원시 화학 지문에서 생물학적으로 의미 있는 특징(예: 독성 중심체)을 자동으로 학습할 수 있는가?
• RQ2 딥 러닝은 다양한 생물학적 경로를 통해 독성 예측에서 기존 기계학습 방법보다 뛰어난 성능을 보일 수 있는가?
• RQ3 다중 작업 학습은 훈련 데이터가 제한된 독성 시험에서 예측 성능 향상에 기여하는가?
• RQ4 딥 네트워크의 학습된 표현 방식이 알려진 독성 중심체 또는 새로운 구조 모티프를 반영하는가?
• RQ5 단일 딥 러닝 모델이 동시에 여러 독성 예측 챌린지에서 최신 기술 수준(SOTA) 성능을 달성할 수 있는가?

주요 결과

• 딥 러닝 모델은 Tox21 데이터 챌린지의 15개 하위 챌린지 전반에서 평균 AUC가 가장 높아 그랜드 챌린지를 수상함.
• 핵 수용체 및 스트레스 반응 부문에서 모두 1위를 차지했으며, 각 부문에서 가장 높은 평균 AUC 기록함.
• 모든 개별 하위 챌린지에서 5위 이내로 랭크된 바 없이, 일관되고 강력한 성능을 보임.
• 네트워크의 고차원 레이어에서 학습된 표현 방식이 알려진 독성 중심체(예: 방향족 고리, 전자 수용체)와 일치하여, 특징의 생물학적 관련성을 검증함.
• 독성 예측에 특화된 다른 방법들조차도 압도하여, 엔드 투 엔드 딥 러닝이 수작업 기반 접근 방식을 능가할 수 있음을 입증함.
• 결과는 딥 러닝이 데이터에서 복잡하고 계층적인 화학적 특징을 발견할 수 있음을 확인하며, 새로운 독성 중심체를 식별할 잠재력이 있음을 시사함.