[论文解读] An efficient plasma-surface interaction surrogate model for sputtering processes based on autoencoder neural networks

Tobias Gergs, Borislav Borislavov+1 more|arXiv (Cornell University)|Sep 3, 2021

Nuclear Materials and Properties参考文献 32被引用 24

一句话总结

该论文提出了一种基于物理信息的自编码器代理模型，用于等离子体-表面轰击过程，可将高维能量-角度分布（EAD）降维至两维潜在空间。通过利用条件β-变分自编码器和迁移学习，该方法仅使用15,111个参数（仅为标准多层感知机的0.378%）即实现了具有竞争力的预测精度，从而实现了对可变Ti-Al化学计量比和离子能量分布的高效、可泛化的建模。

ABSTRACT

Simulations of thin film sputter deposition require the separation of the plasma and material transport in the gas-phase from the growth/sputtering processes at the bounding surfaces. Interface models based on analytic expressions or look-up tables inherently restrict this complex interaction to a bare minimum. A machine learning model has recently been shown to overcome this remedy for Ar ions bombarding a Ti-Al composite target. However, the chosen network structure (i.e., a multilayer perceptron) provides approximately 4 million degrees of freedom, which bears the risk of overfitting the relevant dynamics and complicating the model to an unreliable extend. This work proposes a conceptually more sophisticated but parameterwise simplified regression artificial neural network for an extended scenario, considering a variable instead of a single fixed Ti-Al stoichiometry. A convolutional $\beta$-variational autoencoder is trained to reduce the high-dimensional energy-angular distribution of sputtered particles to a latent space representation of only two components. In addition to a primary decoder which is trained to reconstruct the input energy-angular distribution, a secondary decoder is employed to reconstruct the mean energy of incident Ar ions as well as the present Ti-Al composition. The mutual latent space is hence conditioned on these quantities. The trained primary decoder of the variational autoencoder network is subsequently transferred to a regression network, for which only the mapping to the particular latent space has to be learned. While obtaining a competitive performance, the number of degrees of freedom is drastically reduced to 15,111 and 486 parameters for the primary decoder and the remaining regression network, respectively. The underlying methodology is general and can easily be extended to more complex physical descriptions with a minimal amount of data required.

研究动机与目标

• 解决高参数机器学习模型在等离子体-表面相互作用模拟中计算效率低下和过拟合风险高的问题。
• 将先前关于溅射粒子EAD预测的研究扩展至包含可调的Ti-Al化学计量比作为表面参数。
• 通过条件变分自编码器降低复杂高维EAD数据的维度，同时保持其物理相关性。
• 通过迁移学习实现高效回归，即将预训练解码器迁移至轻量化模型，仅使用极少参数。
• 开发一种可泛化、数据高效的框架，适用于分子动力学模拟等复杂、计算成本高昂的物理场景。

提出的方法

• 训练一个卷积神经网络β-变分自编码器（β-VAE），将30×20的能量-角度分布（EAD）数据在入射Ar离子能量和Ti-Al组成条件下压缩至二维潜在空间。
• 采用双解码器架构：主解码器用于重建完整的EAD，辅助解码器则从共享潜在空间中预测平均入射离子能量和表面化学计量比。
• 通过迁移学习实现：冻结预训练的β-VAE编码器和解码器，仅微调回归头以将输入离子能量分布映射至潜在空间。
• 采用2的幂次填充策略，以确保与卷积层兼容并提升训练稳定性。
• 在1,350个样本的小型真实数据集上进行训练（每种化学计量比x = 0.3, 0.5, 0.7各450个样本），数据由TRIDYN溅射模拟生成。
• 通过使用分布外数据（x = 0.2, 0.4, 0.8）验证泛化能力，评估模型在插值与外推任务中的表现。

实验结果

研究问题

• RQ1 条件β-变分自编码器能否在保持物理保真度的前提下，有效降低复杂多组分溅射粒子能量-角度分布的维度？
• RQ2 将预训练变分自编码器的解码器迁移至回归网络，是否能显著降低模型复杂度而不损失预测精度？
• RQ3 在训练数据有限的情况下，所得代理模型对未见Ti-Al化学计量比（插值与外推）的泛化能力如何？
• RQ4 与标准多层感知机相比，该方法在保持溅射过程建模竞争力的同时，将可训练参数数量减少了多少？

主要发现

• 所提模型将主解码器的可训练参数减少至15,111个（仅为标准多层感知机的0.378%），显著降低了过拟合风险。
• 剩余的回归网络仅需486个参数（仅为MLP的0.012%），实现了高度高效的推理与部署。
• 即使在仅1,350个样本的小型数据集下，模型在不同Ar离子能量和Ti-Al组成下对EAD的预测精度仍具有竞争力。
• 对未见化学计量比（x = 0.2, 0.4, 0.8）的泛化表现表明，模型具备稳健的插值与外推能力，显示出强迁移性。
• 条件β-VAE架构成功学习到一个解耦的二维潜在空间，能够同时编码EAD结构与关键物理输入（离子能量与成分）。
• 该方法具有可扩展性，可轻松扩展至包含动态表面特性或更复杂材料体系，且仅需少量额外数据。