[论文解读] An unfolding method based on conditional Invertible Neural Networks (cINN) using iterative training

Mathias Backes, Anja Butter+2 more|arXiv (Cornell University)|Dec 16, 2022

Neural Networks and Applications被引用 7

一句话总结

本文提出了一种用于高能物理事件级展开的迭代条件可逆神经网络（IcINN），以解决模拟训练数据与真实数据之间的差异。通过使用数据驱动的重加权方法迭代优化似然模型，IcINN 在高维相空间中提升了展开的准确性，在玩具模型和 $pp\to Z\gamma\gamma$ 伪数据上验证了其收敛性与不确定性控制能力，表现出稳健性能。

ABSTRACT

The unfolding of detector effects is crucial for the comparison of data to theory predictions. While traditional methods are limited to representing the data in a low number of dimensions, machine learning has enabled new unfolding techniques while retaining the full dimensionality. Generative networks like invertible neural networks~(INN) enable a probabilistic unfolding, which map individual events to their corresponding unfolded probability distribution. The accuracy of such methods is however limited by how well simulated training samples model the actual data that is unfolded. We introduce the iterative conditional INN~(IcINN) for unfolding that adjusts for deviations between simulated training samples and data. The IcINN unfolding is first validated on toy data and then applied to pseudo-data for the $pp o Z γγ$ process.

研究动机与目标

• 为解决在展开过程中持续存在的数据-MC 不一致性问题，即模拟训练样本无法完全捕捉真实探测器效应。
• 开发一种可扩展的高维展开方法，保留完整的事件级信息，无需分箱处理。
• 通过使用条件可逆流迭代校正模拟训练数据与真实数据之间的偏差，提升展开的准确性。
• 在真实数据应用中确保相空间各区域之间可靠的相关性建模与不确定性估计。
• 提供一个可复现的开源框架，用于将 IcINN 应用于真实实验数据。

提出的方法

• 该方法采用条件可逆神经网络（cINN）建模后验分布 $p(x|y)$，实现从重建级到真实级分布的事件级概率展开。
• 引入迭代重加权循环：每次展开步骤后，使用展开后的数据与真实MC重新训练分类器，以校正数据-MC 不一致性。
• cINN 使用条件耦合块架构并引入残差连接，通过 ADAM 优化器结合循环学习率调度进行训练。
• 分类器用于区分真实级MC与展开后的重建数据，损失函数通过加权处理以应对迭代展开带来的类别不平衡问题。
• 迭代过程在每一步更新似然模型，逐步减少模拟不准确带来的偏差。
• 通过在每一轮迭代中比较展开数据与真实分布，执行收敛性检查，验证方法的收敛性与可靠性。

实验结果

研究问题

• RQ1 对 cINN 似然模型进行迭代优化，能否有效降低因数据-MC 不一致性在高维展开中引起的偏差？
• RQ2 在真实伪数据中，IcINN 方法在保留相空间区域间统计不确定性与相关性方面表现如何？
• RQ3 与单步 cINN 或传统方法相比，迭代重加权在多大程度上提升了事件级展开的保真度？
• RQ4 迭代 cINN 方法在多轮迭代中是否保持稳定性与收敛性，且不会出现过拟合？
• RQ5 该方法能否在无需分箱或降维的前提下，有效应用于复杂多维过程如 $pp\to Z\gamma\gamma$？

主要发现

• IcINN 方法成功降低了由数据-MC 不一致性引起的偏差，经过多轮迭代后，展开数据与真实分布之间的收敛检查显示良好一致性。
• 在 $pp\to Z\gamma\gamma$ 伪数据研究中，与非迭代 cINN 相比，迭代方法显著提升了展开准确性，尤其在探测器效应强烈的区域表现更优。
• 相空间各区域间的统计不确定性与相关性被一致地建模并成功传递至迭代过程，支持了可靠的物理解释应用。
• 基于分类器的重加权步骤表现出强收敛性，展开数据与真实MC分布之间的吻合度随迭代轮次逐步提高。
• 对数据与MC分别进行的收敛性检查表明，该方法具有鲁棒性：MC 的偏差更小（符合预期），而数据的偏差随迭代逐步减小并得到有效控制。
• 通过一系列全面的验证检查（包括展开数据与真实分布的比值图），确认了方法的稳定性与准确性。