[論文レビュー] Graph Denoising Diffusion for Inverse Protein Folding

Kai Yi, Bingxin Zhou+3 more|arXiv (Cornell University)|Jun 29, 2023

Protein Structure and Dynamics被引用数 20

ひとこと要約

GraDe-IF は、与えられたタンパク質バックボーンに折り畳むことができる多様なアミノ酸配列を生成し、最先端の回復率を達成し、進化的 priors および二次構造によって導かれた多様な配列設計を可能にします。

ABSTRACT

Inverse protein folding is challenging due to its inherent one-to-many mapping characteristic, where numerous possible amino acid sequences can fold into a single, identical protein backbone. This task involves not only identifying viable sequences but also representing the sheer diversity of potential solutions. However, existing discriminative models, such as transformer-based auto-regressive models, struggle to encapsulate the diverse range of plausible solutions. In contrast, diffusion probabilistic models, as an emerging genre of generative approaches, offer the potential to generate a diverse set of sequence candidates for determined protein backbones. We propose a novel graph denoising diffusion model for inverse protein folding, where a given protein backbone guides the diffusion process on the corresponding amino acid residue types. The model infers the joint distribution of amino acids conditioned on the nodes' physiochemical properties and local environment. Moreover, we utilize amino acid replacement matrices for the diffusion forward process, encoding the biologically-meaningful prior knowledge of amino acids from their spatial and sequential neighbors as well as themselves, which reduces the sampling space of the generative process. Our model achieves state-of-the-art performance over a set of popular baseline methods in sequence recovery and exhibits great potential in generating diverse protein sequences for a determined protein backbone structure.

研究の動機と目的

• 固定されたバックボーンに対して多様で実現可能なアミノ酸配列を生成することにより、逆タンパク質折り畳みにおける一対多の写像に対処する。
• 背骨構造と環境に条件付けられた多峰性配列分布を捉えるために拡散モデルを活用する。
• 生物学的に意味のある priors (BLOSUM) と二次構造を取り入れて拡散とサンプリングを制約する。
• ロト-翻訳等値対応のグラフニューラルネットワークを利用して、デノイジング中の幾何学的および化学情報を保持する。

提案手法

• タンパク質残基グラフ上の離散グラフディノイズ拡散過程として逆折り畳みタスクをモデル化する。
• BLOSUM に基づく遷移マトリクスを使用して前方拡散を駆動し、生物学的にあり得る置換へとサンプリングを導く。
• SE(3)-equivariant graph neural networkを用いて、グラフ構造、二次構造および局所環境にデノイザーを条件付けする。
• 離散拡散設定で推論を加速させるために DDIM に触発された決定論的サンプリングを適用する。
• デノイニングマッピングを学習するため、AAタイプ予測にクロスエントロピーロスで訓練する。

Figure 1: Overview of GraDe-IF . In the diffusion process, the original amino acid is stochastically transitioned to other amino acids, leveraging BLOSUM with varied temperatures as the transition kernel. During the denoising generation phase, initial node features are randomly sampled across the 20

実験結果

リサーチクエスチョン

• RQ1 拡散ベースの生成モデルは、固定されたタンパク質バックボーンに対して native なアミノ酸配列をより高い精度で回復できるか、識別型ベースラインより優れているか。
• RQ2 二次構造と局所環境を条件付けることは、生成された配列の生物学的妥当性と折り畳み可能性を改善するか。
• RQ3 生物学的に意味のある priors（BLOSUM）を組み込むことで、配列の多様性を維持しつつサンプリング空間を削減できるか。
• RQ4 同じバックボーンに対して複数の配列を生成する場合の多様性と折り畳み可能性のトレードオフはどうなるか。

主な発見

• GraDe-IF は CATH ベースのベンチマークで最先端の回復率を達成し、単一鎖タンパク質での改善は 4.2%、短い配列での改善は 5.4% となる。
• 生成された配列は native に非常に類似した構造に折り畳み、選択されたケースで AlphaFold2 が予測した構造が native へ低 RMSD（約 1 Å）を示す。
• サンプリングステップを調整することで多様性を高められる（ステップ数を減らすほど多様な配列になる）が、TM score や pLDDT などの折り畳み可能性指標を維持する。
• 保存されたコア残基は表面残基より回復率が高く、回復は残基接触数および二次構造の文脈と相関する。
• モデルは生物学的に妥当な配列を生成し、折り畳み性評価（TM score、pLDDT、RMSD）により構造的整合性を保持している。

Figure 2: The middle two panels depict the transition probability of Leucine (L) from $t=0$ to $T$ . Both the uniform and BLOSUM start as Dirichlet distributions and become uniform at time $T$ . As shown in the two side figures, while the uniform matrix evenly disperses L’s probability to other AAs