[論文レビュー] Evaluating representation learning on the protein structure universe

Arian R. Jamasb, Alex Morehead+9 more|PubMed|Jun 19, 2024

Protein Structure and Dynamics参考文献 1被引用数 6

ひとこと要約

本論文は ProteinWorkshop を紹介します。大規模なタンパク質構造上での幾何学的グラフニューラルネットワークの事前学習と評価の総合的ベンチマークであり、AlphaFold ベースの事前学習とノイズ除去タスクが表現を改善し、等周性モデルが事前学習の恩恵をより受け、構造的特徴を持つ ESM-2-650M が一部タスクで最先端と同等または上回ることを示しています。

ABSTRACT

We introduce <i>ProteinWorkshop</i>, a comprehensive benchmark suite for representation learning on protein structures with Geometric Graph Neural Networks. We consider large-scale pre-training and downstream tasks on both experimental and predicted structures to enable the systematic evaluation of the quality of the learned structural representation and their usefulness in capturing functional relationships for downstream tasks. We find that: (1) large-scale pretraining on AlphaFold structures and auxiliary tasks consistently improve the performance of both rotation-invariant and equivariant GNNs, and (2) more expressive equivariant GNNs benefit from pretraining to a greater extent compared to invariant models. We aim to establish a common ground for the machine learning and computational biology communities to rigorously compare and advance protein structure representation learning. Our open-source codebase reduces the barrier to entry for working with large protein structure datasets by providing: (1) storage-efficient dataloaders for large-scale structural databases including AlphaFoldDB and ESM Atlas, as well as (2) utilities for constructing new tasks from the entire PDB. <i>ProteinWorkshop</i> is available at: github.com/a-r-j/ProteinWorkshop.

研究の動機と目的

• タスクとモデル選択を横断してタンパク質構造エンコーダを評価する、統一されたモジュラーなベンチマークを提供する。
• 実験的および予測された大規模で多様な構造コーパス上での事前学習を可能にし、局所的・グローバルな有益な表現を学習する。
• 異なる特徴表現と対称性制約（不変 vs 等周性）が下流の性能に与える影響を評価する。
• ノードレベルとグラフレベルのタンパク質タスクの双方に対する補助的なノイズ除去タスクと事前学習の利点を調査する。

提案手法

• 回転不変および等周性のGeometric GNNのスイートを、異なる入力特徴表現の下でベンチマークする（SchNet, EGNN, TFN, MACE, GCPNet, GearNet）。
• 主な事前学習コーパスとして AlphaFoldDB を使用し、大規模構造データセットのためのストレージ効率の高いデータローダを評価する。
• 座標や角度を撹乱するノイズ付け手法を用い、構造/配列ノイズ除去、逆折りたたみ、pLDDT予測などの5つの事前学習タスクを適用する。
• ノードレベル（例: 逆折りたたみ、PPI部位、金属結合、PTM部位）とグラフレベル（折りたたみ、GO、反応クラス、抗体開発可能性）注釈に及ぶ下流タスクの範囲を評価する。
• 構造特徴を持つシーケンスベースのベースライン（ESM-2-650M）と比較し、モダリティ間の有効性を評価する。

Figure 1: Overview of ProteinWorkshop , a comprehensive benchmark suite for evaluating pre-training and representation learning of Geometric GNNs on large-scale protein structure data.

実験結果

リサーチクエスチョン

• RQ1 不変 GNN と等周性 GNN は多様なタンパク質構造タスクでどのように性能を発揮するか？
• RQ2 特徴表現スキームと構造の詳細レベル（Cα、バックボーン、サイドチェーン）はタンパク質の表現学習をどの程度支援するか？
• RQ3 事前学習タスクと補助的ノイズ除去タスクは下流性能をどの程度改善し、どのモデルクラスが最も恩恵を受けるか？
• RQ4 AlphaFold構造 on large-scale pretraining は構造ベースのエンコーダと最先端のシーケンスベースモデルのギャップを埋められるか？
• RQ5 学習済み表現はプリトレーニングからノードレベルの局所残基注釈とグローバルタンパク質注釈の双方へどの程度転移するか？

主な発見

• 等周性 GNN は一般に不変 GNN をタスク全体で上回り、タンパク質専用アーキテクチャも高い性能を示す。
• Cα 原子、仮想角度、バックボーンねじれ角で特徴表現することは多くのタスク-モデルの組み合わせで高い結果をもたらし、バックボーン情報が一般化を助けることを示唆する。
• 補助的なノイズ除去タスク（配列と構造）はほとんどの組み合わせで一貫して性能を改善し、場合によっては訓練を安定化させる。
• ノイズ除去ベースのタスクを用いた AlphaFoldDB での事前学習は下流性能を高め、特に等周性モデルで効果が大きい。
• シーケンスベースの ESM-2-650M に構造的特徴を付加すると、（超）ファミリー折りたたみと GO 予測タスクの一部で最先端の GNN に匹敵するか上回る。

Figure 2: Ranking analysis of Gene Ontology-Biological Process (GO-BP) test performance across different encoders, feature sets, and auxiliary tasks.