[论文解读] Steerable Wavelet Scattering for 3D Atomic Systems with Application to Li-Si Energy Prediction

Xavier Brumwell, Paul Sinz+3 more|arXiv (Cornell University)|Nov 21, 2018

Machine Learning in Materials Science参考文献 34被引用 5

一句话总结

本文提出了一种用于三维原子体系的可旋转波束散射框架，利用旋转对称和位移不变的波束系数来建模材料性质。该方法在预测非晶态Li-Si体系的生成能方面达到最先进性能，使用基于新型原子轨道波束的散射系数的线性回归模型，实现了0.78±0.01 meV/原子的平均绝对误差（MAE）。

ABSTRACT

A general machine learning architecture is introduced that uses wavelet scattering coefficients of an inputted three dimensional signal as features. Solid harmonic wavelet scattering transforms of three dimensional signals were previously introduced in a machine learning framework for the regression of properties of small organic molecules. Here this approach is extended for general steerable wavelets which are equivariant to translations and rotations, resulting in a sparse model of the target function. The scattering coefficients inherit from the wavelets invariance to translations and rotations. As an illustration of this approach a linear regression model is learned for the formation energy of amorphous lithium-silicon material states trained over a database generated using plane-wave Density Functional Theory methods. State-of-the-art results are produced as compared to other machine learning approaches over similarly generated databases.

研究动机与目标

• 开发一种适用于多尺度材料建模的一般性机器学习架构，尊重如平移和旋转不变性等基本对称性。
• 通过在旋转和平移下具有协变性的可旋转波束，将波束散射方法扩展至三维原子体系。
• 构建一个稀疏、可解释且精确的回归模型，用于预测非晶态Li-Si体系的生成能。
• 展示波束散射特征在捕捉复杂原子体系中结构可变性和物理关联方面的有效性。

提出的方法

• 该方法采用由径向函数和球谐函数定义的一般类3D可旋转波束，确保对旋转和平移的协变性。
• 通过波束变换与非线性操作的级联计算波束散射系数，生成原子构型的不变表示。
• 散射变换使用固定且非学习的波束滤波器组，替代卷积神经网络中的学习滤波器，生成多尺度、几何敏感的特征。
• 使用散射系数训练线性回归模型以预测生成能，通过贪婪前向选择进行特征选择。
• 波束的径向部分针对原子体系进行定制，从而形成一类新的原子轨道波束，其推广了实心谐波波束。
• 对系数进行归一化，以实现对体系尺寸的不变性，增强在不同原子构型间的泛化能力。

实验结果

研究问题

• RQ1 可旋转波束散射能否提供一种适用于机器学习的、对三维原子体系具有旋转和平移不变性的表示？
• RQ2 波束散射系数在多大程度上能捕捉非晶态Li-Si体系的结构与能量可变性？
• RQ3 基于这些系数的线性模型在相同数据集上与其他机器学习方法相比，能否在生成能预测中实现最先进精度？
• RQ4 该模型在多大程度上是稀疏且可解释的？哪些特征对能量预测最具预测力？
• RQ5 径向波束函数的选择在多大程度上影响模型的性能与可解释性？

主要发现

• 该模型在Li-Si生成能预测任务中实现了0.78±0.01 meV/原子的平均绝对误差（MAE）和1.24±0.05 meV/原子的均方根误差（RMSE），优于在相同数据库上训练的其他机器学习方法。
• 随着前几项散射系数的引入，误差迅速下降，表明该模型具有稀疏性，且少量特征集即可提供强大的预测能力。
• 验证曲线与训练曲线保持高度一致，表明模型泛化能力良好，且未对噪声产生过拟合。
• 模型更倾向于选择仅来自Li通道的特征以及q=2阶次的系数，反映出Li在成键和能量贡献中的主导作用。
• 特征选择揭示了对相似尺度波束进行耦合的偏好，且系数权重迅速衰减，证实了模型的稀疏性与可解释性。
• 各波束权重之和未表现出明显的空间模式，表明预测能力分布于多个尺度与通道，而非集中于特定波束。