[论文解读] Wigner kernels: body-ordered equivariant machine learning without a basis

Filippo Bigi, Sergey N. Pozdnyakov+1 more|arXiv (Cornell University)|Mar 7, 2023

Machine Learning in Materials Science被引用 6

一句话总结

本文提出Wigner核，一种新颖的方法，用于构建无需依赖径向-化学基组的旋转等变、体序排列的三维点云机器学习模型。通过在特征空间中迭代使用Wigner的Clebsch-Gordan分解计算核函数，该方法实现了与体序的线性标度，并在QM9数据集上对标量和张量性质预测达到了最先进精度，优于标准核方法和神经网络基线。

ABSTRACT

Machine-learning models based on a point-cloud representation of a physical object are ubiquitous in scientific applications and particularly well-suited to the atomic-scale description of molecules and materials. Among the many different approaches that have been pursued, the description of local atomic environments in terms of their neighbor densities has been used widely and very succesfully. We propose a novel density-based method which involves computing ``Wigner kernels''. These are fully equivariant and body-ordered kernels that can be computed iteratively with a cost that is independent of the radial-chemical basis and grows only linearly with the maximum body-order considered. This is in marked contrast to feature-space models, which comprise an exponentially-growing number of terms with increasing order of correlations. We present several examples of the accuracy of models based on Wigner kernels in chemical applications, for both scalar and tensorial targets, reaching state-of-the-art accuracy on the popular QM9 benchmark dataset, and we discuss the broader relevance of these ideas to equivariant geometric machine-learning.

研究动机与目标

• 开发一种无基组、等变的三维点云机器学习框架，避免特征空间模型的指数级计算成本。
• 通过系统性地捕捉高阶体相关性，实现对原子尺度性质（尤其是张量性质）的精确预测。
• 克服传统核方法依赖显式径向-化学基组展开的局限性，并解决其标度问题。
• 证明通过Wigner分解实现的迭代核空间计算可实现高效、高精度的模型，适用于化学多样性系统。
• 建立体序密度相关性与等变学习中通用逼近能力之间的联系，即使角动量截断也成立。

提出的方法

• 该方法通过Wigner的Clebsch-Gordan系数在核空间中迭代构建等变核函数，实现跨体序的角动量态耦合。
• 通过递归应用Wigner的3j符号直接计算核矩阵，避免显式基组展开，实现无基组的密度相关性评估。
• 该方法采用分层的、体序排列的展开方式，通过张量积分解将ν阶相关性的核函数从低阶成分构建而来。
• 迭代核计算与最大体序ν_max呈线性标度，避免了全特征空间模型中常见的指数增长。
• 通过在核构造中保持完整的旋转等变性，该方法支持标量和矢量目标的预测。
• 该方法利用对称性自适应核的核岭回归（KRR），实现无需显式特征工程的高效训练与预测。

实验结果

研究问题

• RQ1 我们能否在不依赖显式径向-化学基组展开的前提下，为三维点云构建完全等变、体序排列的核函数？
• RQ2 通过Wigner分解实现的迭代核空间计算与特征空间方法相比，在可扩展性和精度方面表现如何？
• RQ3 Wigner核在分子和团簇系统中，尤其是在角动量被截断的情况下，能够多大程度上捕捉高阶体相关性？
• RQ4 Wigner核能否在QM9等基准数据集上实现标量和张量性质预测的最先进性能？
• RQ5 在化学多样性数据集中，核空间参数化与特征空间参数化对模型效率和泛化能力有何影响？

主要发现

• Wigner核在QM9数据集上实现了最先进精度，原子化能预测的平均绝对误差为0.1 kcal/mol。
• 随着体序ν_max增加，模型系统性收敛，在金团簇中ν_max = 6时已接近收敛，表明高阶相关性有显著贡献。
• 在QM9偶极矩预测中，Wigner核优于标准核方法和经过充分调优的等变神经网络。
• 即使在剧烈截断角动量（λ_max）的情况下，该方法仍保持高精度，表明Wigner核隐式地包含了高分辨率基函数。
• 计算成本与ν_max呈线性标度，且与径向-化学基组无关，从而可高效建模化学多样性系统。
• 在随机甲烷数据集上的基准测试表明，由于迭代核空间构造机制，Wigner核能有效捕捉复杂的角相关性，即使在中等λ_max下也表现良好。