[論文レビュー] GNN-PT: Enhanced Prediction of Compound-protein Interactions by Integrating Protein Transformer

Jingtao Wang, Xi Li+1 more|arXiv (Cornell University)|Sep 2, 2020

Computational Drug Discovery Methods参考文献 15被引用数 14

ひとこと要約

本稿では、タンパク質配列内の長距離アミノ酸残基相互作用を捉えるためにタンパク質トランスフォーマーモジュールを統合することで、化合物-タンパク質相互作用（CPI）予測を向上させる、GNN-PTと呼ばれる新しい深層学習フレームワークを提案する。タンパク質表現における自己注意メカニズムを活用することで、従来のモデルよりも顕著に予測性能が向上し、ベンチマークCPIデータセットにおいて最先端の結果を示している。

ABSTRACT

The prediction of protein interactions (CPIs) is crucial for the in-silico screening step in drug discovery. Recently, many end-to-end representation learning methods using deep neural networks have achieved significantly better performance than traditional machine learning algorithms. Much effort has focused on the compound representation or the information extraction from the compound-protein interaction to improve the model capability by taking the advantage of the neural attention mechanism. However, previous studies have paid little attention to representing the protein sequences, in which the long-range interactions of residue pairs are essential for characterizing the structural properties arising from the protein folding. We incorporate the self-attention mechanism into the protein representation module for CPI modeling, which aims at capturing the long-range interaction information within proteins. The proposed module concerning protein representation, called Protein Transformer, with an integration with an existing CPI model, has shown a significant improvement in the prediction performance when compared with several existing CPI models.

研究の動機と目的

• 創薬における化合物-タンパク質相互作用（CPI）予測の正確性を向上させることを目的とし、タンパク質配列表現を強化すること。
• 既存のモデルがタンパク質配列内のアミノ酸残基間の長距離相互作用を捉えることの制限を解決すること。
• 自己注意に基づくタンパク質トランスフォーマーモジュールをグラフニューラルネットワークフレームワークに統合し、CPIモデリングを実現すること。
• タンパク質内の長距離依存関係をモデリングすることで、優れた予測性能が得られることを示すこと。
• 自己注意メカニズムを用いた包括的でエンドツーエンドの表現学習アプローチを提供すること。

提案手法

• 本手法は、タンパク質配列内のアミノ酸残基間の長距離相互作用をモデル化するために、マルチヘッド自己注意を適用するタンパク質トランスフォーマーモジュールを導入する。
• 既存のグラフニューラルネットワーク（GNN）ベースのCPIモデルにタンパク質トランスフォーマーを統合し、タンパク質表現学習を強化する。
• タンパク質配列は学習済みトークン埋め込みによってエンコードされ、その後、複数層のマルチヘッド自己注意とフィードフォワードネットワークが適用される。
• モデルは化合物およびタンパク質の表現を同時に学習し、最終的な予測ヘッドによって連結表現の上での相互作用予測が行われる。
• 既知のCPIデータ上でバイナリクロスエントロピー損失を用いて、エンドツーエンドで訓練される。
• GNNとタンパク質トランスフォーマーの統合により、タンパク質配列からの構造的・機能的特徴のより良い捉えが可能になる。

実験結果

リサーチクエスチョン

• RQ1 自己注意メカニズムは、CPI予測の向上を目的として、タンパク質配列内の長距離アミノ酸残基相互作用を効果的にモデル化できるか？
• RQ2 GNNベースのCPIモデルにタンパク質トランスフォーマーを統合することで、ベースラインモデルと比較して測定可能なパフォーマンス向上が得られるか？
• RQ3 タンパク質表現に長距離構造的情報を組み込むことで、CPI予測の汎化性能と正確性にどのような影響を与えるか？
• RQ4 従来のタンパク質埋め込み手法と比較して、タンパク質トランスフォーマーは表現学習にどの程度向上をもたらすか？
• RQ5 GNN-PTの統合フレームワークは、既存の最先端CPI予測モデルを上回ることができるか？

主な発見

• GNN-PTモデルは、ベンチマークCPIデータセットにおいて最先端のパフォーマンスを達成し、既存のモデルを顕著に上回っている。
• タンパク質トランスフォーマーモジュールの統合により、ベースラインGNNモデルと比較してAUCおよびAUPRC指標に顕著な向上が見られた。
• アブレーションスタディの結果、タンパク質トランスフォーマー内の自己注意メカニズムがパフォーマンス向上に大きく寄与していることが確認された。
• 多様なタンパク質ファミリーおよび化合物タイプにわたり、モデルは頑健な性能を示しており、優れた汎化能力を示している。
• 長距離アミノ酸残基相互作用のモデリングが、正確なCPI予測にとって不可欠であることが結果で裏付けられた。
• 局所的または浅いタンパク質配列表現に依存するモデルと比較して、フレームワークは一貫した改善を示した。