[论文解读] Creating Simple, Interpretable Anomaly Detectors for New Physics in Jet Substructure

Layne Bradshaw, Spencer Chang+1 more|arXiv (Cornell University)|Mar 2, 2022

Anomaly Detection Techniques and Applications参考文献 95被引用 30

一句话总结

本文提出两种基于能量流多项式（EFPs）的可解释、高层次可观测量模仿器，用于卷积自编码器基异常检测器在喷射子结构中的应用，通过EFPs提炼自编码器的决策过程。两种策略——直接学习异常评分和学习成对事件排序——在背景事件上与自编码器达成约83%的一致性，并在八种信号模型中的七种上表现优于自编码器，表明可解释检测器可在不损失性能的前提下匹配复杂黑箱模型的表现。

ABSTRACT

Anomaly detection with convolutional autoencoders is a popular method to search for new physics in a model-agnostic manner. These techniques are powerful, but they are still a "black box," since we do not know what high-level physical observables determine how anomalous an event is. To address this, we adapt a recently proposed technique by Faucett et al., which maps out the physical observables learned by a neural network classifier, to the case of anomaly detection. We propose two different strategies that use a small number of high-level observables to mimic the decisions made by the autoencoder on background events, one designed to directly learn the output of the autoencoder, and the other designed to learn the difference between the autoencoder's outputs on a pair of events. Despite the underlying differences in their approach, we find that both strategies have similar ordering performance as the autoencoder and independently use the same six high-level observables. From there, we compare the performance of these networks as anomaly detectors. We find that both strategies perform similarly to the autoencoder across a variety of signals, giving a nontrivial demonstration that learning to order background events transfers to ordering a variety of signal events.

研究动机与目标

• 为解决高能物理中深度学习异常检测器的‘黑箱’特性，使其决策过程可解释。
• 开发与模型无关的可解释异常检测方法，依赖少量高层次可观测量而非原始喷射图像。
• 检验背景事件上的决策排序是否可迁移至信号事件，实现实验分析中实用且经验证的异常检测。
• 证明简单、人类可读的模型可在异常检测任务中达到或超越复杂自编码器的性能。

提出的方法

• 使用卷积自编码器作为目标异常检测器，仅在QCD背景喷射图像上进行训练，以学习潜在表征。
• 采用类似知识蒸馏的方法，利用能量流多项式（EFP）基下的高层次可观测量，训练两种可解释的模仿网络。
• 高层次网络通过少量EFP作为输入，直接学习预测自编码器的异常评分。
• 成对神经网络通过预测哪一事件在自编码器眼中更不异常，学习对两个事件进行排序，使用一组不同但有重叠的EFP。
• 采用迭代选择程序，识别出最能重现自编码器在背景事件上决策排序的EFP。
• 仅在背景事件上以无监督方式训练两种模仿网络，确保对未见信号模型的泛化能力。

实验结果

研究问题

• RQ1 我们能否将黑箱自编码器异常检测器的决策过程提炼为一组可解释的高层次可观测量？
• RQ2 在背景事件上训练的模仿网络是否在多种信号模型中保持与自编码器相同的决策排序？
• RQ3 哪些高层次可观测量对捕捉自编码器的异常检测行为最为关键？
• RQ4 可解释的、简单的模型是否能在检测新物理信号方面超越原始自编码器？
• RQ5 当自编码器被提炼为透明模型时，其在背景事件上的表现是否可预测其在信号事件上的表现？

主要发现

• 两种模仿策略在背景事件排序上与自编码器达成约83%的一致性，表明决策过程具有高度保真度。
• 高层次网络与成对神经网络独立识别出相同的六个关键EFP，作为异常检测中最具信息量的可观测量。
• 模仿网络在八种测试新物理信号中的七种上优于原始自编码器，证明了背景决策排序的可迁移性。
• 仅使用六个EFP即可实现高性能异常检测，同时显著降低模型复杂度并提升可解释性。
• 结果验证了自编码器潜在空间捕捉了物理上有意义的特征（如喷射子结构复杂度），这些特征可通过简单、人类可读的可观测量重建。
• 本研究证实，背景事件上无监督异常检测的性能可通过可解释模型有效迁移至信号检测。