[論文レビュー] Molecular Property Prediction: A Multilevel Quantum Interactions Modeling Perspective

Chengqiang Lu, Qi Liu+4 more|arXiv (Cornell University)|Jun 25, 2019

Machine Learning in Materials Science参考文献 29被引用数 28

ひとこと要約

本稿では、分子の量子的相互作用を階層的に（原子単位、ペア単位、3つ組単位など）モデル化するマルチレベルグラフ畳み込みネットワーク（MGCN）を提案する。グラフ構造の表現とマルチレベルのメッセージパッシングを活用することで、DFTに比べ15万倍高速な推論を実現し、分子サイズの変化に対しても優れた汎化性と転移性を示した。

ABSTRACT

Predicting molecular properties (e.g., atomization energy) is an essential issue in quantum chemistry, which could speed up much research progress, such as drug designing and substance discovery. Traditional studies based on density functional theory (DFT) in physics are proved to be time-consuming for predicting large number of molecules. Recently, the machine learning methods, which consider much rule-based information, have also shown potentials for this issue. However, the complex inherent quantum interactions of molecules are still largely underexplored by existing solutions. In this paper, we propose a generalizable and transferable Multilevel Graph Convolutional neural Network (MGCN) for molecular property prediction. Specifically, we represent each molecule as a graph to preserve its internal structure. Moreover, the well-designed hierarchical graph neural network directly extracts features from the conformation and spatial information followed by the multilevel interactions. As a consequence, the multilevel overall representations can be utilized to make the prediction. Extensive experiments on both datasets of equilibrium and off-equilibrium molecules demonstrate the effectiveness of our model. Furthermore, the detailed results also prove that MGCN is generalizable and transferable for the prediction.

研究の動機と目的

• 大規模データセットにおける分子特性予測のための密度汎関数理論（DFT）の計算非効率性を解消すること。
• 従来の機械学習手法よりも、電気双極子相互作用や交換反発相互作用などの複雑な量子的相互作用をより効果的にモデル化すること。
• 小規模および中規模分子のデータから得た情報を用いて、大規模分子の特性を予測できる汎用的かつ転移可能なモデルを開発すること。
• 原子単位、ペア単位、3つ組単位などの階層的量子的相互作用パターンを、ディープラーニングフレームワークに直接組み込むこと。

提案手法

• 分子を構造的・空間的情報を失わずに保持するグラフとして表現する。
• 点単位（原子）、ペア単位（原子ペア）、3つ組単位（原子3つ組）およびそれ以上の高次相互作用を処理する階層的グラフニューラルネットワークを設計する。
• メッセージパッシング機構を用いて、複雑な量子相関を捉えるために、複数のレベル間で相互作用表現を伝達・集約する。
• 最終予測を出力するリードアウト層を備えた、分子特性ラベル（例：解離エネルギー）を用いたエンドツーエンドの学習を実施する。
• 小規模から大規模な分子への転移性を高めるために、事前学習とファインチューニング戦略を活用する。
• 実証的検証に基づき、モデル容量と一般化性能のバランスを最適化するため、4層が最適であると特定した。

実験結果

リサーチクエスチョン

• RQ1 ディープラーニングモデルは、分子内のマルチレベル量子的相互作用を効果的に捉えることで、特性予測を向上させることができるか？
• RQ2 提案されたMGCNモデルは、DFTおよび既存のGNNと比較して、予測精度と推論速度の両面で優れているか？
• RQ3 小規模分子で学習したモデルが、多様な大規模分子の特性にどれほど一般化できるか？
• RQ4 モデル容量と一般化性能のバランスを最適化するには、最適な階層的相互作用層の数は何か？

主な発見

• MGCNは、DTNN、SchNet、enn-s2sベースラインと比較して、平衡状態および非平衡状態の分子データセットの両方で最小の平均絶対誤差（MAE）を達成した。
• DFTに比べ15万倍高速であり、1つのCPUコアで1分子あたり0.024秒の推論時間で実現した。
• MGCNは強力な転移性を示した：小規模分子でのみ学習した「develop」モデルでも大規模分子に対して低いMAEを達成し、「pre-train」モデルは少量の大規模分子データでさらに性能向上を達成した。
• 4層の相互作用層が最良の性能を示し、これはDFTで一般的に用いられる対称関数の数と一致しており、理論的・実証的対応関係が強いことを示した。
• 階層的メッセージパッシング機構により、ラベル付きデータが限られる状況でも、一般化性能が向上し、より優れた表現学習が可能になった。