[논문 리뷰] SMILES2Vec: An Interpretable General-Purpose Deep Neural Network for Predicting Chemical Properties

Garrett B. Goh, Nathan O. Hodas외 2명|arXiv (Cornell University)|2017. 12. 06.

Computational Drug Discovery Methods참고 문헌 41인용 수 63

한 줄 요약

SMILES2Vec는 SMILES 문자열에서 심층 RNN을 학습하여 개발된 특징 없이 다양한 화학적 특성을 예측하며 최첨단 성과를 달성하고 중요한 SMILES 문자에 대한 해석 가능한 위치화를 제공합니다.

ABSTRACT

Chemical databases store information in text representations, and the SMILES format is a universal standard used in many cheminformatics software. Encoded in each SMILES string is structural information that can be used to predict complex chemical properties. In this work, we develop SMILES2vec, a deep RNN that automatically learns features from SMILES to predict chemical properties, without the need for additional explicit feature engineering. Using Bayesian optimization methods to tune the network architecture, we show that an optimized SMILES2vec model can serve as a general-purpose neural network for predicting distinct chemical properties including toxicity, activity, solubility and solvation energy, while also outperforming contemporary MLP neural networks that uses engineered features. Furthermore, we demonstrate proof-of-concept of interpretability by developing an explanation mask that localizes on the most important characters used in making a prediction. When tested on the solubility dataset, it identified specific parts of a chemical that is consistent with established first-principles knowledge with an accuracy of 88%. Our work demonstrates that neural networks can learn technically accurate chemical concept and provide state-of-the-art accuracy, making interpretable deep neural networks a useful tool of relevance to the chemical industry.

연구 동기 및 목표

• SMILES 문자열에서 일반 목적의 특징 엔지니어링 없는 예측의 필요성을 동기화합니다.
• SMILES로부터 직접 표현을 학습하는 심층 RNN(SMILES2Vec)을 개발하여 여러 특성을 예측합니다.
• SMILES2Vec가 엔지니어드 피처를 사용한 전통적 MLP 모델보다 여러 작업에서 우수하다는 것을 보여줍니다.
• 예측에 중요한 SMILES 문자를 강조하는 설명 마스크를 통해 해석 가능성을 입증합니다.

제안 방법

• SMILES 시퀀스에서 심층 RNN을 학습시켜 특징 표현을 자동으로 학습합니다.
• 베이지안 최적화를 사용해 네트워크 아키텍처와 하이퍼파라미터를 조정합니다.
• 독성, 활성, 용해도, 용매화 에너지 등 다양한 특성에 대해 평가합니다.
• 엔지니어링된 디스크립터를 사용하는 기존 MLP와의 성능을 비교합니다.
• 예측에 영향을 주는 SMILES 문자를 국소화하는 해석 마스크를 제공합니다.

실험 결과

연구 질문

• RQ1 단일 SMILES 기반의 심층 신경망이 다양한 화학 특성에 대해 일반 목적 예측기로 작동할 수 있는가?
• RQ2 SMILES에서 파생된 표현이 정확도와 견고성 면에서 엔지니어링 피처 신경망보다 우수한가?
• RQ3 예측에 대한 중요한 SMILES 문자의 국소화를 통해 해석 가능성을 입증할 수 있는가?

주요 결과

• SMILES2Vec는 다수의 화학 특성을 예측하는 일반 목적 신경망으로 작동합니다.
• 최적화된 SMILES2Vec 모델은 엔지니어링된 특징을 사용하는 현대의 MLP보다 성능이 우수합니다.
• 해석 가능성 마스크는 예측에 가장 중요한 SMILES 문자를 국소화합니다.
• 용해도 데이터세트에서 모델의 정확도는 88%에 달했으며 기존 화학 지식과 일치합니다.