[论文解读] Efficient Structure-Informed Featurization and Property Prediction of Ordered, Dilute, and Random Atomic Structures

Adam M. Krajewski, Jonathan W. Siegel+1 more|arXiv (Cornell University)|Apr 3, 2024

Machine Learning in Materials ScienceMaterials Science被引用 3

一句话总结

该论文介绍了 pySIPFENN，一个开源、模块化的 Python 工具集，用于对有序、稀释和随机原子结构实现高效、结构感知的特征工程与性质预测。它利用晶体对称性和表征等价性，将机器学习推理速度提升数个数量级，实现对数百万种结构的高通量筛选，计算成本极低，同时保持了高精度的生成能预测能力和模型可迁移性。

ABSTRACT

Structure-informed materials informatics is a rapidly evolving discipline of materials science relying on the featurization of atomic structures or configurations to construct vector, voxel, graph, graphlet, and other representations useful for machine learning prediction of properties, fingerprinting, and generative design. This work discusses how current featurizers typically perform redundant calculations and how their efficiency could be improved by considering (1) fundamentals of crystallographic (orbits) equivalency to optimize ordered cases and (2) representation-dependent equivalency to optimize cases of dilute, doped, and defect structures with broken symmetry. It also discusses and contrasts ways of (3) approximating random solid solutions occupying arbitrary lattices under such representations. Efficiency improvements discussed in this work were implemented within pySIPFENN or python toolset for Structure-Informed Property and Feature Engineering with Neural Networks developed by authors since 2019 and shown to increase performance from 2 to 10 times for typical inputs. Throughout this work, the authors explicitly discuss how these advances can be applied to different kinds of similar tools in the community.

研究动机与目标

• 开发一种通用、开源的工具集，用于对包括有序、稀释和随机构型在内的多种材料类型实现高效原子结构特征工程。
• 通过利用晶体学对称性和表征等价性，消除冗余计算，解决基于机器学习的材料性质预测中的计算瓶颈。
• 通过 ONNX 和模块化软件设计，实现特征工程器和训练模型与外部工作流的无缝集成。
• 通过在新化学体系或 DFT 数据库上自动调整和重训练模型，支持迁移学习和领域自适应。
• 提供文档齐全、持续维护且广泛可部署的软件栈，服务于材料信息学研究与工业应用。

提出的方法

• pySIPFENN 基于 NumPy 和 pymatgen 实现模块化架构，支持针对不同结构类别的独立、可重用的特征工程器。
• KS2022 特征工程器利用有序结构中的对称等价性，减少冗余特征计算，显著提升吞吐量。
• KS2020_dilute 特征工程器考虑了缺陷和掺杂结构中对称性破缺下的位点等价性，提升了稀释体系的效率。
• KS2022_randomSolutions 特征工程器通过扩展局部化学环境直至收敛，实现了对随机固溶体的高效特征工程，克服了传统 SQS 方法的局限性。
• 基于 ONNX 的模型导出与 onnx2torch 集成，支持将训练好的模型部署到多种机器学习框架和硬件平台。
• ModelAdjusters 子模块支持使用本地或外部 DFT 数据自动微调、领域自适应和重训练，支持主动学习与迁移学习。

Figure 1: Main schematic of pySIPFENN framework detailing the interplay of internal components described in Section 2.1 . The user interface provides a high-level API to process structural data within core.Calculator , pass it to featurization submodules in descriptorDefinitions to obtain vector rep

实验结果

研究问题

• RQ1 如何利用晶体结构中的对称等价性，加速生成能预测的机器学习推理？
• RQ2 在对称性破缺的缺陷或掺杂体系中，特征工程的计算成本与精度之间存在何种权衡？
• RQ3 如何在不依赖传统 SQS 近似的情况下，高效地对具有复杂非化学计量组成的随机固溶体进行机器学习特征工程？
• RQ4 特征工程效率的提升在不同表征类型（如体素、图或图基模型）之间在多大程度上具有普适性？
• RQ5 如何设计一个模块化、开源的软件栈，以支持在多样化材料科学工作流中实现特征工程与模型部署？

主要发现

• KS2022 特征工程器通过利用对称等价性消除冗余特征计算，显著提升吞吐量，实现对大规模结构数据库的快速筛选。
• KS2022_dilute 特征工程器通过识别对称性破缺下非等价位点，降低缺陷和掺杂体系的计算成本，避免不必要的特征重新计算。
• KS2022_randomSolutions 特征工程器成功将局部化学环境采样扩展至收敛于代表性固溶体结构，克服了 SQS 在正向与逆向机器学习工作流中的局限性。
• pySIPFENN 通过 ONNX 实现无缝模型部署，支持与 PyTorch 等框架集成，并支持权重量化与图优化，适用于低内存环境部署。
• 该软件已通过社区研讨会验证，保持持续维护，并成功集成至 ESPEI 和 pycalphad，展示了其在热力学建模与材料设计中的实际应用价值。
• 该工具集支持迭代式迁移学习与领域自适应，可通过 OPTIMADE 访问，实现对新化学体系或 DFT 数据库的快速模型重训练。

Figure 2: Schematic of the general-purpose KS2022 featurization routine with built-in optimization for ordered structures. First, the atomic structure (in pymatgen Structure object format [ 32 ] ) is loaded, and sites in it are annotated with their crystallographic orbits using spglib [ 58 ] . Then,