[论文解读] Improved Surrogates in Inertial Confinement Fusion with Manifold and Cycle Consistencies

Rushil Anirudh, Jayaraman J. Thiagarajan+2 more|arXiv (Cornell University)|Dec 17, 2019

Laser-Plasma Interactions and Diagnostics参考文献 29被引用 41

一句话总结

该论文为惯性约束聚变（ICF）提出了流形与循环一致（MaCC）代理模型，通过潜在空间自编码器强制实施物理流形一致性，并通过联合训练的伪逆网络在正向与逆向模型之间实现循环一致性，从而提升预测性能与鲁棒性。该方法在低数据场景下尤其表现出色，显著提升了准确性、数据效率，并增强了对采样伪影的抗性。

ABSTRACT

Neural networks have become very popular in surrogate modeling because of their ability to characterize arbitrary, high dimensional functions in a data driven fashion. This paper advocates for the training of surrogates that are consistent with the physical manifold -- i.e., predictions are always physically meaningful, and are cyclically consistent -- i.e., when the predictions of the surrogate, when passed through an independently trained inverse model give back the original input parameters. We find that these two consistencies lead to surrogates that are superior in terms of predictive performance, more resilient to sampling artifacts, and tend to be more data efficient. Using Inertial Confinement Fusion (ICF) as a test bed problem, we model a 1D semi-analytic numerical simulator and demonstrate the effectiveness of our approach. Code and data are available at https://github.com/rushilanirudh/macc/

研究动机与目标

• 为解决标准神经网络代理模型在科学计算中因高维性与缺乏物理约束而导致的非物理解释性、脆弱性或不一致性预测问题。
• 改进惯性约束聚变（ICF）中的代理建模，其中丰富的多模态输出（图像与标量）需要高保真度、高数据效率的模型。
• 通过将预测映射到捕捉多模态输出间相关性的低维潜在流形，强制实现物理合理性。
• 通过惩罚 F(x) → G(F(x)) ≈ x 的循环偏差，确保正向与逆向模型之间的自洽性，从而增强鲁棒性与可解释性。
• 通过循环正则化降低对大规模数据集的依赖，提升泛化能力并增强对采样伪影的鲁棒性。

提出的方法

• 训练变分自编码器（VAE）将多模态ICF输出（图像与标量）嵌入低维潜在空间 Z，实现流形一致性。
• 将代理模型定义为 F: X → Z，其中 X 为输入参数空间，而非直接在高维输出空间 Y 中进行预测。
• 与 F 联合训练伪逆网络 G: Y → X，使用循环一致性损失 Lcyc = ∑ᵢ R²(x_scan, G(F(x_scan))) 强制实现 G(F(x)) ≈ x。
• 使用随机梯度下降优化联合模型，总损失为 L_total = L_mse + λ_cyc × L_cyc，其中 L_mse 衡量预测误差，λ_cyc 控制循环正则化强度。
• 使用自助采样训练集评估循环一致性在多个逆向模型解中的鲁棒性，确保统计有效性。
• 通过标准指标（MSE、R²）及对输入扰动的敏感性评估模型平滑性与鲁棒性。

实验结果

研究问题

• RQ1 通过潜在空间自编码器强制实施流形一致性，是否能提升高维科学模拟中代理模型的保真度与泛化能力？
• RQ2 在正向与逆向模型之间强制实施循环一致性，是否能带来更鲁棒、更稳定的预测，尤其是在输入扰动下？
• RQ3 循环正则化在低数据场景下在多大程度上提升了数据效率并降低了对采样伪影的敏感性？
• RQ4 MaCC代理模型是否能在未显式训练过的多种逆向模型解中保持自洽性？
• RQ5 与标准基线相比，MaCC代理模型在真实ICF模拟数据上的预测准确性、平滑性与可解释性如何？

主要发现

• MaCC代理模型在所有四个能量波段的图像输出上均显著降低了均方误差（MSE），相较于基线，带宽0的MSE从0.0476降至0.0351，带宽3的MSE从0.2035降至0.1742。
• 标量预测的R²得分从0.9990提升至0.9974，表明标量建模略有改善但仍保持高度精确。
• 当 λ_cyc = 0.05 时，MaCC模型在保持高性能预测的同时实现了强循环一致性；当 λ_cyc 超过0.10时性能才出现明显下降。
• 模型对输入扰动表现出更优的鲁棒性：循环正则化使噪声下的预测更加平滑，且在扰动输入上的MSE增幅极小。
• 即使使用从自助采样子集独立训练的伪逆模型，MaCC代理模型在所有五个输入参数上仍保持了高自洽性，R²测量结果稳定。
• 在低数据场景下，MaCC模型的泛化能力优于基线，表现为使用更少训练样本时测试MSE更低，证实了其增强的数据效率。