[论文解读] Data-driven Estimation of Background Distribution through Neural Autoregressive Flows

S. Choi, J. Lim+1 more|arXiv (Cornell University)|Aug 9, 2020

Model Reduction and Neural Networks参考文献 19被引用 10

一句话总结

该论文提出ABCDnn方法，一种基于神经自回归流（NAF）的数据驱动方法，通过从多个控制区域学习复杂且相关的变换，实现对高能物理中信号区域的背景分布估计。与传统扩展型ABCD方法相比，该方法可降低统计不确定性，并更好地保持多维相关性，实现接近最优的预测结果，同时对统计涨落具有更强的鲁棒性。

ABSTRACT

We report on a general and automatic data-driven background distribution shape estimation method using neural autoregressive flows (NAF), which is one of the deep generative learning methods. Data-driven background estimation is indispensable for many analyses involving complicated final states where reliable predictions are not available. NAF allow us to construct general bijective transformations that operate on multidimensional space, out of finite number of invertible one-dimensional functions. Given its simplicity and universality, it is well suited to the application in the data-driven background estimation, since data-driven estimations can be expressed as transformations. In a data-driven background estimation, the goal is to derive appropriate transformations and apply extrapolated transformations to the region of interest. In the ABCDnn method, we can have the NAF learn the transformations' dependence on control variables by having multiple control regions. We demonstrate that the prediction through ABCDnn method is similar to optimal case, while having smaller statistical uncertainty.

研究动机与目标

• 开发一种通用、自动化的背景分布估计方法，适用于理论预测不可靠的复杂高维相空间。
• 解决传统ABCD方法的局限性，后者仅限于单变量处理，且在多维外推中面临高统计不确定性。
• 利用深度学习建模特征与控制变量之间的非线性相关性，实现更准确、更鲁棒的背景预测。
• 提供一种系统化、可解释的背景估计框架，可应用于具有复杂末态的稀有过程。
• 在使用模拟数据的现实 $t\bar{t}+\text{multijets}$ 背景估计场景中，展示该方法的有效性。

提出的方法

• ABCDnn方法将背景估计建模为一个变换问题，其中信号区域的分布被学习为从控制区域数据出发的双射变换。
• 使用神经自回归流（NAF）构建通用、可逆变换，从基分布出发，通过一系列一维单调函数实现。
• 变换参数以控制变量 $\vec{c}$ 条件化，使模型能够学习分布随相空间不同区域的变化。
• 该方法在多个控制区域的数据上端到端训练，学习背景形状对控制变量的完整多维依赖关系。
• 与黑箱DNN不同，NAF由于其自回归结构具有可解释性，可分析每个特征对变换的贡献。
• 该方法可同时处理插值（当信号区域被控制区域包围时）和外推（当未被完全包围时），并一致地处理相关性。

实验结果

研究问题

• RQ1 能否有效利用类似NAF的深度生成模型，在不依赖蒙特卡洛模拟的前提下，对高能物理中复杂且相关的背景分布进行建模？
• RQ2 在多维相空间中估计背景形状时，ABCDnn方法与扩展型ABCD方法相比，在统计不确定性和准确性方面表现如何？
• RQ3 基于NAF的变换在数据驱动背景估计中，能在多大程度上学习控制变量与背景特征之间的非线性依赖关系？
• RQ4 ABCDnn方法能否在外部推断过程中保持多特征间的相关性，而传统基于一维直方图的ABCD方法则不能？
• RQ5 当某些通道存在高不确定性时，ABCDnn方法对控制区域中的统计涨落是否具有鲁棒性？

主要发现

• ABCDnn方法实现了与最优情况统计一致的背景预测，展示了在估计复杂多喷射末态时的高精度。
• 与扩展型ABCD方法相比，ABCDnn表现出显著更低的统计不确定性，尤其在控制区域统计稀疏的区域。
• 该方法成功保持了特征间在变换过程中的多维相关性，实现了比一维直方图方法更准确的外推。
• ABCDnn的预测结果在信号区域的第五和第六个领先喷射子的 $p_T$ 分布、$H_T$ 和缺失 $E_T$ 分布中，与真实背景分布高度一致。
• 基于NAF的变换具有可解释性，可分析控制变量如何影响背景形状，而标准DNN则不具备此特性。
• 该方法具有通用性，可扩展至多于两个控制变量的情形，或用于学习真实数据与模拟之间的修正。