[論文レビュー] Unified theory of atom-centered representations and message-passing machine-learning schemes

Jigyasa Nigam, Sergey N. Pozdnyakov+2 more|arXiv (Cornell University)|Feb 3, 2022

Machine Learning in Materials Science参考文献 49被引用数 42

ひとこと要約

この論文は、原子中心の密度相関（ACDC）を多中心表現に一般化することで、原子的物質モデリングにおける原子中心型とメッセージパッシング型の機械学習フレームワークを統一し、原子座標の対称的かつ等長的関数の完全な線形基底を提供する。このフレームワークにより、短距離および長距離の構造-性質関係を網羅的に捉えることのできる、理論的普遍性と実用的性能を兼ね備えた不変および等長的モデルの体系的構築が可能になる。

ABSTRACT

Data-driven schemes that associate molecular and crystal structures with their microscopic properties share the need for a concise, effective description of the arrangement of their atomic constituents. Many types of models rely on descriptions of atom-centered environments, that are associated with an atomic property or with an atomic contribution to an extensive macroscopic quantity. Frameworks in this class can be understood in terms of atom-centered density correlations (ACDC), that are used as a basis for a body-ordered, symmetry-adapted expansion of the targets. Several other schemes, that gather information on the relationship between neighboring atoms using "message-passing" ideas, cannot be directly mapped to correlations centered around a single atom. We generalize the ACDC framework to include multi-centered information, generating representations that provide a complete linear basis to regress symmetric functions of atomic coordinates, and provides a coherent foundation to systematize our understanding of both atom-centered and message-passing, invariant and equivariant machine-learning schemes.

研究の動機と目的

• 原子的モデリングにおける原子中心型とメッセージパッシング型の機械学習方式を統一すること。
• 原子中心型密度相関（ACDC）を多中心的でグラフベースの情報に一般化すること。
• 原子座標の対称的かつ等長的関数の完全な線形基底を提供すること。
• 材料科学における不変および等長的ディープラーニングアーキテクチャの理解を体系化すること。
• 短距離および長距離の構造-性質関係のモデリングにおける性能向上を可能にすること。

提案手法

• 近隣環境のテンソル積と対称性に適した基底関数を用いて、ACDCを多中心表現に一般化する。
• 近隣の反復的合算と高次コアリレーションを用いて、メッセージパッシングACDC表現を導入する。
• SO(3)の既約表現とパリティラベルを用いて回転および逆変換対称性を保証する。
• Clebsch-Gordan分解を用いて結合基底の等長的特徴を構築し、高次元の対称的特徴を生成する。
• 原子中心密度上で作用させることで、近隣数の指数的増加を回避する密度テクニックを適用する。
• 連続的表現の離散化と効率的計算を可能にするために、径方向および球面調和基底関数を用いる。

実験結果

リサーチクエスチョン

• RQ1 原子中心型とメッセージパッシング型のフレームワークを、一貫した理論的枠組みの下で正式に統合することは可能か？
• RQ2 多中心相関は、完全で対称的かつ等長的表現を構築する上で果たす役割は何か？
• RQ3 一般化されたACDC形式は、不変および等長的機械学習モデルの両方の普遍的基底として機能できるか？
• RQ4 メッセージパッシング表現は、従来のACDCに比べて長距離構造的効果をどれほど正確に捉えられるか？
• RQ5 これらの表現が原子座標の対称的関数を近似する際の普遍性の理論的根拠は何か？

主な発見

• 一般化されたACDCフレームワークは、原子座標の任意の対称的かつ等長的関数を展開する完全な線形基底を提供する。
• メッセージパッシングACDC表現は、短距離および長距離の構造-性質関係のモデリングにおいて高い精度を達成する。
• このフレームワークは、グラフニューラルネットワーク、テンソルフィールドネットワーク、従来のACDC方式といった多様なモデルを、共通の形式主義で統合する。
• Clebsch-Gordan則による等長的特徴の反復的結合により、対称性を損なわず、より豊かな高次元表現が可能になる。
• 密度に基づくテクニックにより指数的スケーリングを回避し、大規模な原子環境でも効率的な計算が可能になる。
• この手法は理論的に普遍的であり、対称多項式の完全な基底と同等であり、等長的モデルの普遍的関数近似を保証することが証明されている。