[論文レビュー] Self-Attention Based Molecule Representation for Predicting Drug-Target Interaction

Bonggun Shin, Sung Soo Park+2 more|arXiv (Cornell University)|Aug 15, 2019

Computational Drug Discovery Methods被引用数 66

ひとこと要約

この論文は、自己注意機構を用いた分子表現（Molecule Transformer）とCNNベースのタンパク質エンコーディングを組み合わせた薬物-標的相互作用モデル MT-DTI を紹介し、PubChemデータからの転移学習を通じて Kiba と Davis ベンチマークで最先端の結果を達成する。

ABSTRACT

Predicting drug-target interactions (DTI) is an essential part of the drug discovery process, which is an expensive process in terms of time and cost. Therefore, reducing DTI cost could lead to reduced healthcare costs for a patient. In addition, a precisely learned molecule representation in a DTI model could contribute to developing personalized medicine, which will help many patient cohorts. In this paper, we propose a new molecule representation based on the self-attention mechanism, and a new DTI model using our molecule representation. The experiments show that our DTI model outperforms the state of the art by up to 4.9% points in terms of area under the precision-recall curve. Moreover, a study using the DrugBank database proves that our model effectively lists all known drugs targeting a specific cancer biomarker in the top-30 candidate list.

研究の動機と目的

• 薬物発見と個別化医療を支援するため、DTI予測のコスト削減と精度向上を動機づける。
• 大規模なPubChemデータで事前訓練された自己注意機構を用いた新しい分子表現を提案する。
• Molecule Transformerをタンパク質のCNNと相互作用Dense層と統合し結合親和性を予測する。
• KibaとDavis DTIベンチマークで最先端の性能を示し、EGFRの実用的な薬剤候補ランキングを示す。
• 化学構造知識からDTI予測への転移学習を探る。

提案手法

• MT-DTIアーキテクチャを導入する：SMILESベースのMolecule TransformersとFASTAベースのProtein CNNsがInteraction Denses予測子に入力する。
• PubChemの9700万分子でマスク言語モデルタスクを用いてMolecule Transformersを事前訓練し、[REP]トークンを固定長の分子表現として使用する。
• タンパク質を埋め込みと最大プーリングを伴う多層CNNでエンコードして固定長のタンパク質表現を生成する。
• M_repとP_repを結合し、3つの密結合層とドロップアウトを通して連続的な結合親和性スコアを予測する。
• 前 trained Molecule TransformerをDTIデータセット(KibaとDavis)でMT-DTI内にファインチューニングする。
• MSE, CI, r_m^2, AUPRを用いてベースライン KronRLS、SimBoost、DeepDTAと比較評価する。

実験結果

リサーチクエスチョン

• RQ1 自己注意ベースの分子表現は、DTIタスクでCNNベースのエンコーダより豊かな化学構造情報を学習できるか？
• RQ2 PubChemで分子エンコーダを事前訓練することは、小規模なDTIデータセットでファインチューニングした場合、DTI予測を改善するか？
• RQ3 MT-DTIはKibaとDavisベンチマークで既存の最先端DTI手法と複数の指標でどのように比較されるか？
• RQ4 EGFRなど特定のターゲットに対する既知薬候補をケーススタディでモデルは効果的に特定できるか？

主な発見

• MT-DTIはCI、MSE、r_m^2、AUPRの全ての指標でKibaとDavisのベースラインを上回る。
• MT-DTIはKibaでCI 0.882およびAUPR 0.837、DavisでCI 0.887およびAUPR 0.730、完全訓練時（MT-DTI）を達成。
• MT-DTIはファインチューニングなしでもすでにいくつかのベースラインに対抗でき、事前訓練から有用な化学構造学習が得られる可能性を示唆。
• PubChemで97百万分子を用いた事前訓練とその後のファインチューニングにより、2つの公開DTIベンチマークで最先端の結果を得た。
• DrugBankを用いたケーススタディでは、知名のEGFR標的薬が上位30位の予測に現れ、実務的な候補ランキングの潜在力を示す。
• モデルはより大規模な訓練データセットでロバスト性と性能向上を示す（CIとAUPRの標準偏差が低下）。