[論文レビュー] ComENet: Towards Complete and Efficient Message Passing for 3D Molecular Graphs

Limei Wang, Yi Liu+3 more|arXiv (Cornell University)|Jun 17, 2022

Machine Learning in Materials Science被引用数 27

ひとこと要約

ComENetは3D分子グラフに対して完全で効率的な1ホップ近傍メッセージパッシング方式を導入し、SE(3)-完全表現をO(nk)の計算量で達成し、大規模データセットで高い実証性能を示す。

ABSTRACT

Many real-world data can be modeled as 3D graphs, but learning representations that incorporates 3D information completely and efficiently is challenging. Existing methods either use partial 3D information, or suffer from excessive computational cost. To incorporate 3D information completely and efficiently, we propose a novel message passing scheme that operates within 1-hop neighborhood. Our method guarantees full completeness of 3D information on 3D graphs by achieving global and local completeness. Notably, we propose the important rotation angles to fulfill global completeness. Additionally, we show that our method is orders of magnitude faster than prior methods. We provide rigorous proof of completeness and analysis of time complexity for our methods. As molecules are in essence quantum systems, we build the \underline{com}plete and \underline{e}fficient graph neural network (ComENet) by combing quantum inspired basis functions and the proposed message passing scheme. Experimental results demonstrate the capability and efficiency of ComENet, especially on real-world datasets that are large in both numbers and sizes of graphs. Our code is publicly available as part of the DIG library (\url{https://github.com/divelab/DIG}).

研究の動機と目的

• 正確な学習のために分子グラフに3D情報を完全に取り込む必要性を動機づける。
• 3Dグラフ表現の幾何学的完全性（グローバルおよびローカル）を定義し保証する。
• 回転角を用いた効率的な1ホップメッセージパッシング方式を開発し、グローバル完全性を達成する。
• ComENet内に量子インスパイア特徴を組み込み、3D分子学習を改善する。
• 大規模データセット（OC20、Molecule3D、QM9）でのスケーラビリティと競争力のある精度を示す。

提案手法

• SE(3)の下で3Dグラフの完全性を形式的に定義し、エッジ上の回転角を用いてグローバル完全性を示す。
• エッジごとに1ホップの幾何特徴量（d、theta、phi、tau）を計算してSE(3)-不変表現を形成する。
• 1ホップ近傍内で動作する局所およびグローバル畳み込み層を導入し、O(nk)の計算量を達成する。
• 最近傍ベースの回転角tauを用いて3Dコンフォメーションを一意に決定し、コンフォマー同定を可能にする。
• 量子インスパイアの基底特徴とニューラルネットワークベースのメッセージパッシングフレームワークをComENetアーキテクチャ（埋め込み層、相互作用層、自己原子層、プーリング）に組み込む。
• 完全性の証明と時間計算量の分析を提供し、OC20、Molecule3D、QM9で評価する。

実験結果

リサーチクエスチョン

• RQ1 1ホップ近傍情報のみを用いて、3D分子グラフ表現はグローバルに完全で（情報損失がない）になり得るか。
• RQ2 回転角をどのように活用してグローバル完全性を達成し、コンフォマー単位の識別を可能にするか。
• RQ3 完全な3D GNNの実用的な時間計算量は、既存の2ホップ法と比較してどうか。
• RQ4 提案されたメッセージパッシングと組み合わせた量子インスパイア特徴は、大規模分子データセットで競争力のある性能を発揮するか。

主な発見

• 1ホップ完備の幾何変換（d、theta、phi、tau）が、強連結な3Dグラフに対してグローバル完全性をもたらすことを証明する。
• 1ホップ近傍と回転角を用いてO(nk)の計算量を達成し、O(nk^2)やO(nk^3)法よりも大幅に高速である。
• OC20、Molecule3D、およびQM9において最先端のベースラインと競合または優れた性能を示し、トレーニング/推論の大幅な高速化（いくつかのデータセットで6-10倍）を達成。
• 回転角がOC20でコンフォマー単位の識別を可能にし、重要な立体異性を識別することを示す。
• 完全なメッセージパッシングと量子インスパイア特徴を統合したComENetアーキテクチャを提案し、スケーラブルな3D分子学習を実現。