[論文レビュー] Equivariant Graph Neural Networks for 3D Macromolecular Structure

Bowen Jing, Stephan Eismann+2 more|arXiv (Cornell University)|Jun 7, 2021

Machine Learning in Materials Science参考文献 14被引用数 47

ひとこと要約

この論文は幾何的ベクトルパーセプトロンに基づくGNNを原子レベルの高分子構造へ拡張し、ベクトルゲーティングを導入、ATOM3Dタスクで高い結果を達成し、転移学習の利点を示す。

ABSTRACT

Representing and reasoning about 3D structures of macromolecules is emerging as a distinct challenge in machine learning. Here, we extend recent work on geometric vector perceptrons and apply equivariant graph neural networks to a wide range of tasks from structural biology. Our method outperforms all reference architectures on three out of eight tasks in the ATOM3D benchmark, is tied for first on two others, and is competitive with equivariant networks using higher-order representations and spherical harmonic convolutions. In addition, we demonstrate that transfer learning can further improve performance on certain downstream tasks. Code is available at https://github.com/drorlab/gvp-pytorch.

研究の動機と目的

• 3D高分子構造に対して姿勢および向きに不変な頑健な学習を動機づける。
• 幾何的ベクトルパーセプトロンを用いた原子レベルの等変GNNを開発する。
• ATOM3DタスクでCNN、GNN、ENNベースラインとモデルをベンチマークする。
• データ不足の高分子データセットに対する性能向上のための転移学習を探る。

提案手法

• 高分子を原子をノードとし、4.5 Å以内のペアをエッジとするグラフとして表現する。
• 回転対称性を保つためスカラーとベクトル特徴を用いたGVP-GNNを用いる。
• 原子レベル入力のスカラーからベクトルチャネルへ情報を伝搬させるためのベクトルゲーティングを導入する。
• 五層構成の原子レベル構造へGVP-GNNを拡張し、下流タスクのために平均プーリングを適用する。
• ATOM3DベンチマークでCNN、GNN、ENNベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 等変メッセージパッシングとベクトル特徴は原子レベルの高分子構造を効果的にモデルできるか。
• RQ2 ベクトルゲート付きGVP-GNNは既存のベースラインと比較して様々なATOM3Dタスクで競争力があるか。
• RQ3 データ豊富なタスクからの転移学習はデータ不足の高分子タスクに有益か。
• RQ4 この領域における高次の等変ネットワークと比べて原子レベルの拡張はどうなるか。

主な発見

• ベクトルゲート付きGVP-GNNは3つのATOM3Dタスクでトップ手法、他の2つで同率首位。
• 第一階のベクトル表現のみを用いながらも高次のENNアーキテクチャと競合する。
• SMPとRESからの転移学習は複数の下流タスク（PPI、MSP、PSR）で性能を向上。
• 事前学習は一部のタスクで学習を加速するが、他のタスク（例：LBA）では過学習の可能性も。
• このアプローチは多様な高分子構造タスクで高い性能を示し、普遍的近似性の性質拡張を提供。