[論文レビュー] Energy-based models for atomic-resolution protein conformations

Yilun Du, Joshua Meier+3 more|arXiv (Cornell University)|Apr 27, 2020

Protein Structure and Dynamics参考文献 47被引用数 13

ひとこと要約

この論文では、タンパク質結晶構造データから直接、トランスフォーマー・アーキテクチャを用いて原子解像度のタンパク質コンformationエネルギーを学習する、ディープラーニングベースのエネルギーベースモデル（EBM）を提案する。構造的データのみで訓練されたモデルは、ロサッタ（state-of-the-artな物理的および知識ベースのエネルギー関数）に近いロタマー回復性能を達成しており、生物学的に関連する物理化学的特徴を自動で学習できることを示している。

ABSTRACT

We propose an energy-based model (EBM) of protein conformations that operates at atomic scale. The model is trained solely on crystallized protein data. By contrast, existing approaches for scoring conformations use energy functions that incorporate knowledge of physical principles and features that are the complex product of several decades of research and tuning. To evaluate the model, we benchmark on the rotamer recovery task, the problem of predicting the conformation of a side chain from its context within a protein structure, which has been used to evaluate energy functions for protein design. The model achieves performance close to that of the Rosetta energy function, a state-of-the-art method widely used in protein structure prediction and design. An investigation of the model's outputs and hidden representations finds that it captures physicochemical properties relevant to protein energy.

研究の動機と目的

• 手動による特徴工学を回避する、データ駆動型のタンパク質コンformation用エネルギー関数の開発。
• ディープラーニングがタンパク質結晶構造内の原子座標から直接、意味のある生物学的に関連するエネルギー表現を学習できるかの評価。
• タンパク質エネルギー関数の標準的テストであるロタマー回復タスクにおけるモデルのベンチマーク。
• モデルが学習した表現を通じて、水素結合や立体障害などの物理化学的性質を捉えているかの調査。
• 神経エネルギー関数の、サイドチェーン最適化や逆フォールディングを含む、より広範なタンパク質設計タスクへの応用可能性の探求。

提案手法

• モデルは、各原子をシーケンスに依存しない集合のトークンとして扱うトランスフォーマー基盤のアーキテクチャを用い、原子座標の集合を入力として処理する。
• 原子間のペアワイズ相互作用に注目することで、複雑な加法的でない依存関係を捉え、与えられたタンパク質コンformationのエネルギー得点を計算する。
• 大規模な結晶タンパク質構造データセット上でエンドツーエンドに訓練され、損失関数は正しいネイティブロタマー構成の予測に基づく。
• 訓練には対照的損失関数が用いられ、同じ構造的文脈内でのサンプリングされたロタマーと比較して、真のネイティブロタマーのエネルギーが最小化されるようにする。
• モデルはロタマー回復ベンチマークで評価され、代替構成の中からネイティブロタマーが最もエネルギーが低いとランク付けされる。
• 隠れ表現と注目パターンの分析を通じて、モデルがタンパク質エネルギー関連の解釈可能な特徴を学習しているかを評価する。

実験結果

リサーチクエスチョン

• RQ1 タンパク質結晶構造データのみで訓練された神経エネルギーベースモデルは、手作業で設計されたエネルギー関数と同等の精度でネイティブサイドチェーンコンformationを予測できるか？
• RQ2 モデルが暗黙的に学習する物理化学的特徴は何か？ それらはタンパク質安定性の既知の原則と整合しているか？
• RQ3 トランスフォーマーの注目メカニズムは、水素結合、立体障害、または疎水性パッキングに関連する意味のあるパターンを明らかにできるか？
• RQ4 物理ベースおよび知識ベースのエネルギー関数（例：ロサッタ）と比較して、完全にデータ駆動型のエネルギー関数の性能はどの程度か？
• RQ5 このような学習されたエネルギー関数は、ロタマー回復を越えて、より広範なタンパク質設計タスクにどの程度一般化可能か？

主な発見

• 提案されたエネルギーベースモデルは、明示的な物理的事前知識を一切含まずに、ステートオブザアートのロサッタエネルギー関数に近いロタマー回復性能を達成しており、強力な競争力を持つことを示している。
• モデルはネイティブロタマーに対しては非ネイティブなものよりも低いエネルギーを割り当てており、安定したコンformationの効果的な識別ができていることが示された。
• モデルの注目マップは、水素結合や疎水性相互作用に関与する原子に局所的に注目するパターンを示しており、重要な物理化学的相互作用に対する感受性が学習されている可能性を示唆している。
• モデルの隠れ表現はアミノ酸タイプや構造的環境によって意味のあるクラスタリングを示しており、生物学的に関連するコンformation特徴をモデルが捉えていることが示された。
• モデルのエネルギー関数は、サイドチェーンパッケージングにおける協同効果など、加法的でない高次元の原子間依存関係を捉える能力を持っている。
• 結果から、ディープラーニングが構造的データから複雑で生物学的に関連する特徴を自動で発見でき、熟練者が設計した用語への依存を低減できる可能性が示された。