[论文解读] Crystal-GFN: sampling crystals with desirable properties and constraints

Mila AI Science, :+12 more|ArXiv.org|Oct 7, 2023

Machine Learning in Materials Science被引用 5

一句话总结

Crystal-GFN 是一种生成模型，通过按顺序生成空间群、成分和晶格参数来采样晶体结构，采用基于形成能代理模型训练的 GFlowNet 框架。其预测形成能的中位数为 -3.1 eV/atom，所采样的晶体具有高度多样性且稳定性强，其中 95% 的形成能低于 -2 eV/atom，展示了在材料发现中高效且具备约束感知能力的生成性能。

ABSTRACT

The discovery of novel solid-state materials, such as electrocatalysts, super-ionic conductors, or photovoltaic materials, plays a critical role in addressing various global challenges. It has, for instance, the potential to significantly improve the efficiency of renewable energy production and storage, thereby making substantial contributions to climate crisis mitigation strategies. In this paper, we introduce Crystal-GFN, a generative model of crystal structures possessing desirable properties and constraints. Operating as a multi-environment, continuous-discrete GFlowNet, it sequentially samples structural attributes of crystalline materials, namely space group, composition and lattice parameters. This domain-inspired approach enables the flexible incorporation of physicochemical and geometric hard constraints. We demonstrate the capabilities of Crystal-GFN to efficiently discover diverse and valid crystals with various properties: low predicted formation energy (median -3.2 eV/atom), band gap close to a target value and high density. Overall, Crystal-GFN is a crystal generation method that addresses several existing challenges in the literature and opens promising paths for accelerating materials discovery with machine learning.

研究动机与目标

• 加速发现具有理想物理化学性质的稳定无机晶体。
• 解决在复杂物理与化学约束下生成有效、多样且稳定的晶体结构的挑战。
• 通过领域启发的顺序生成过程，实现在晶体结构上的高效、约束感知采样。
• 证明基于形成能的预训练奖励函数可有效引导模型生成低能量、稳定的候选结构。
• 提供一个灵活的框架，支持集成任意性质预测模型与硬性约束。

提出的方法

• Crystal-GFN 采用对三个结构组件的顺序生成过程：空间群（由晶系和点群对称性定义）、成分（元素类型与原子数）以及晶格参数（a, b, c, α, β, γ）。
• 该模型采用 GFlowNet 框架，根据学习到的奖励函数对结构进行采样，实现多样且目标导向的生成。
• 基于 MatBench 训练的代理机器学习模型用于预测单位原子的形成能，该结果在训练期间作为奖励函数使用。
• 在多个层级上整合了硬性约束，包括电荷中性、成分与空间群之间的兼容性，以及空间群与晶格参数之间的一致性。
• 训练在仅使用 CPU 的环境下进行 12 小时，以代理模型的预测结果作为目标函数。
• 训练完成后，采样 10,000 个晶体结构以评估其多样性与预测形成能。

实验结果

研究问题

• RQ1 生成模型能否有效采样出具有低预测形成能的多样化晶体结构？
• RQ2 基于领域的结构分解（空间群、成分、晶格参数）是否能更好地整合物理与化学约束？
• RQ3 在代理形成能模型上训练的 GFlowNet 是否能优于随机或无引导采样，生成更稳定的晶体？
• RQ4 该模型在空间群、成分与晶格参数方面在多大程度上保持了多样性？
• RQ5 该框架能否扩展以整合除形成能之外的其他目标性质？

主要发现

• Crystal-GFN 采样了 10,000 个晶体结构，其预测形成能的中位数为 -3.1 eV/atom，显著低于验证集的中位数。
• 采样晶体中 95% 的预测形成能低于 -2 eV/atom，表明模型对低能量、稳定结构具有强烈偏好。
• 该模型实现了高度的结构多样性：周期表中的全部 12 种元素均有代表，10 种元素出现在能量最低的 100 个样本中，80 个空间群（占 230 个的 70%）被采样。
• 在前 100 个样本中，模型覆盖了 5 个晶系（共 8 个）和全部 5 种点群对称性，显示出广泛的覆盖范围。
• 采样晶体的晶格参数分布与 MatBench 数据集中的分布相近，表明其采样具有现实合理性。
• 即使仅在仅使用 CPU 的机器上训练 12 小时，该模型仍成功将预测形成能分布向更低值偏移。