[論文レビュー] Drug Synergistic Combinations Predictions via Large-Scale Pre-Training and Graph Structure Learning

Zhigang Hu, Qinze Yu+6 more|arXiv (Cornell University)|Jan 14, 2023

Computational Drug Discovery Methods被引用数 4

ひとこと要約

本論文は、大規模な事前学習モデルとグラフ構造学習を活用して、相乗効果を示すドラッグコンビネーションを予測する新しい深層学習フレームワークを提案する。マルチモーダルなドラッグ、タンパク質、疾患表現をメッセージスティンンググラフと擬似関係学習で統合することで、最先端の性能を達成し、独立したAstraZenecaテストセットでは10%の性能向上を達成するとともに、未学習のドラッグに対しては2番目に優れたモデルよりも15%以上高いAUROCを示した。

ABSTRACT

Drug combination therapy is a well-established strategy for disease treatment with better effectiveness and less safety degradation. However, identifying novel drug combinations through wet-lab experiments is resource intensive due to the vast combinatorial search space. Recently, computational approaches, specifically deep learning models have emerged as an efficient way to discover synergistic combinations. While previous methods reported fair performance, their models usually do not take advantage of multi-modal data and they are unable to handle new drugs or cell lines. In this study, we collected data from various datasets covering various drug-related aspects. Then, we take advantage of large-scale pre-training models to generate informative representations and features for drugs, proteins, and diseases. Based on that, a message-passing graph is built on top to propagate information together with graph structure learning flexibility. This is first introduced in the biological networks and enables us to generate pseudo-relations in the graph. Our framework achieves state-of-the-art results in comparison with other deep learning-based methods on synergistic prediction benchmark datasets. We are also capable of inferencing new drug combination data in a test on an independent set released by AstraZeneca, where 10% of improvement over previous methods is observed. In addition, we're robust against unseen drugs and surpass almost 15% AU ROC compared to the second-best model. We believe our framework contributes to both the future wet-lab discovery of novel drugs and the building of promising guidance for precise combination medicine.

研究の動機と目的

• 高価なウェットラボ実験を回避しつつ、相乗効果を示すドラッグコンビネーションを効率的に同定する課題に対処すること。
• 新規のドラッグや細胞線に対して一般化能力に欠ける既存のモデルの限界を克服すること。
• ドラッグ、タンパク質、疾患のマルチモーダル生物学的データを統合的に予測フレームワークに統合すること。
• ドメインシフトや未学習のドラッグコンビネーションに対しても耐性があり、一般化可能なモデルを開発すること。
• 学習分布を超えた新しいドラッグコンビネーションについても正確な推論を可能にすること。

提案手法

• 多様なデータソースから得られるドラッグ、タンパク質、疾患のための豊富で情報豊富な表現を生成するために大規模な事前学習を活用する。
• ノード間を横断して情報を伝達するメッセージスティンンググラフを構築するとともに、柔軟なグラフ構造学習により擬似関係を発見可能にする。
• 予測の精練とモデルの一般化能力向上を目的とした自己学習戦略を導入する。
• 特徴学習を強化するために、ドラッグ-ドラッグ相互作用（DDI）とドラッグ-ターゲット相互作用（DTI）の2つの予測ヘッドを採用する。
• 効果的なグラフ表現学習を実現するため、4、8、12のアテンションヘッドを備えたマルチヘッドグラフアテンションネットワーク（GAT）を適用する。
• 最終的な相乗効果分類に、3072、768、128次元のマルチレイヤーパーセプトロン（MLP）を用いる。

実験結果

リサーチクエスチョン

• RQ1 統合的な深層学習フレームワークは、マルチモーダルな生物学的データを用いて、相乗効果を示すドラッグコンビネーションを効果的に予測できるか？
• RQ2 本モデルは、学習時に見られなかった新規のドラッグや細胞線に対してどの程度一般化できるか？
• RQ3 事前学習表現とグラフ構造学習を組み合わせることで、既存の手法と比較して予測性能が向上するか？
• RQ4 自己学習戦略と二重予測ヘッドの導入が、モデルの頑健性と正確性をどの程度向上させるか？
• RQ5 本モデルは、AstraZenecaデータセットのような独立した実世界のテストセットにおいて、どの程度の性能を示すか？

主な発見

• 提案モデルはベンチマークデータセットで最先端の性能を達成し、既存の深層学習ベースの手法よりもAUROC、AUPRC、F1スコアで優れている。
• 独立したAstraZenecaテストセットでは、前回の手法よりも10%の性能向上を示した。
• 未学習のドラッグに対しては、2番目に優れたモデルを15%以上上回るAUROCを達成し、高い頑健性を示した。
• アブレーションスタディにより、自己学習戦略およびDDI/DTI予測モジュールの両方がモデル性能の向上に顕著に寄与することが確認された。
• 豊富な事前学習埋め込みの使用が極めて重要であることが示された—ワンホットエンコーディングやフィンガープrintに置き換えると、性能が著しく低下した。
• さまざまな細胞線頻度にわたって安定した性能を維持したため、データ分布シフトに対して強い一般化能力と耐性を示した。