[論文レビュー] On the equivalence of molecular graph convolution and molecular wave function with poor basis set

Masashi Tsubaki, Teruyasu Mizoguchi|arXiv (Cornell University)|Nov 16, 2020

Machine Learning in Materials Science被引用数 2

ひとこと要約

本論文は、密度汎関数理論（DFT）に基づく機械学習モデル、Quantum Deep Field（QDF）を提案する。このモデルは、原子軌道の線形結合（LCAO）と同値な単一の線形層GCNと、量子力学的汎関数を学習する2つのフィードフォワードネットワークを用いて、分子グラフからエネルギー予測へとマッピングする。小分子で学習し、大分子でテストすることで、高い外挿性能を達成し、一般化性能に優れ、材料発見における実用的潜在能力を示している。

ABSTRACT

In this study, we demonstrate that the linear combination of atomic orbitals (LCAO), an approximation of quantum physics introduced by Pauling and Lennard-Jones in the 1920s, corresponds to graph convolutional networks (GCNs) for molecules. However, GCNs involve unnecessary nonlinearity and deep architecture. We also verify that molecular GCNs are based on a poor basis function set compared with the standard one used in theoretical calculations or quantum chemical simulations. From these observations, we describe the quantum deep field (QDF), a machine learning (ML) model based on an underlying quantum physics, in particular the density functional theory (DFT). We believe that the QDF model can be easily understood because it can be regarded as a single linear layer GCN. Moreover, it uses two vanilla feedforward neural networks to learn an energy functional and a Hohenberg--Kohn map that have nonlinearities inherent in quantum physics and the DFT. For molecular energy prediction tasks, we demonstrated the viability of an ``extrapolation,'' in which we trained a QDF model with small molecules, tested it with large molecules, and achieved high extrapolation performance. This will lead to reliable and practical applications for discovering effective materials. The implementation is available at this https URL.

研究の動機と目的

• 分子における原子軌道の線形結合（LCAO）とグラフ畳み込みネットワーク（GCNs）の間の理論的同等性を確立すること。
• GCNの限界、特に不要な非線形性や深層アーキテクチャの問題を解決し、より単純で物理的根拠に基づいた代替手法を提案すること。
• DFTを含む基本的な量子力学的原理を活用した機械学習モデルを構築し、分子エネルギー予測における一般化性能を向上させること。
• 材料発見に不可欠な小分子から大分子への信頼できる外挿を可能にすること。
• 量子力学的原理をアーキテクチャに直接埋め込むことで、解釈可能性とスケーラビリティを両立させたモデルを提供すること。

提案手法

• LCAOとGCNの間の同等性を形式的に定式化し、LCAOが分子グラフに適用された線形GCN層と数学的に同等であることを示す。
• 単一の線形GCN層に基づく簡素化されたモデル、Quantum Deep Field（QDF）を提案し、深層アーキテクチャや余分な非線形性を回避する。
• エネルギー汎関数とHohenberg–Kohn写像を学習するために、2つの通常のフィードフォワードニューラルネットワークを用いる。両者ともに、本質的な量子力学的非線形性を内蔵している。
• QDFモデルを小分子で学習し、より大きな未観測分子での性能評価を通じて外挿能力をテストする。
• 密度汎関数理論（DFT）の枠組みにモデルを統合し、物理的整合性と解釈可能性を保証する。
• 効率性とスケーラビリティに重点を置いた実装を行い、材料発見のパイプラインへの実用的導入を可能にする。

実験結果

リサーチクエスチョン

• RQ1 量子化学における原子軌道の線形結合（LCAO）形式は、分子のグラフ畳み込みネットワーク（GCNs）に正式にマッピング可能か？
• RQ2 標準的なGCNが、分子系のモデル化において、深層アーキテクチャや非線形性といった不要な複雑性を導入する理由は何か？単純なモデルで十分な場合があるのでは？
• RQ3 量子力学的原理（特にDFTに由来するもの）を組み込んだ機械学習モデルは、どのように設計すれば、分子エネルギー予測における高い一般化性能を達成できるか？
• RQ4 小分子で学習したモデルが、大規模な分子に効果的に一般化できるか？これは材料発見に何を意味するか？
• RQ5 物理的制約を組み込んだモデル、例えばQDFは、標準的なGCNと比較して、外挿タスクでどの程度優れているか？

主な発見

• 量子化学で用いられるLCAO法は、数学的に分子グラフに適用された線形グラフ畳み込みネットワークと同等である。
• グラフ畳み込みネットワークは、量子力学的アプローチで分子系をモデル化する際、余分な非線形性や深層アーキテクチャを導入しており、これらは必要ではない。
• 単一の線形GCN層に基づく、提案されたQuantum Deep Field（QDF）モデルは、分子エネルギー予測において高い性能を達成している。
• QDFモデルは、小分子からより大きな未観測分子への一般化を効果的に実現することで、強力な外挿能力を示している。
• エネルギー汎関数とHohenberg–Kohn写像を学習する2つのフィードフォワードネットワークの使用により、本質的な量子力学的非線形性が保持されている。
• QDFの実装は公開されており、再現性が保たれ、材料発見の応用分野におけるさらなる開発が可能である。