[논문 리뷰] Creating Simple, Interpretable Anomaly Detectors for New Physics in Jet Substructure

Layne Bradshaw, Spencer Chang외 1명|arXiv (Cornell University)|2022. 03. 02.

Anomaly Detection Techniques and Applications참고 문헌 95인용 수 30

한 줄 요약

이 논문은 에너지 흐름 다항식(EFPs)을 사용해 컨volutional 오토에인코더 기반 이상 탐지기의 의사결정 과정을 요약하는 두 가지 해석 가능한 고수준 관측 기반 모의 모델을 제안한다. 두 전략—직접 이상도를 학습하는 것과 쌍별 이벤트 순서를 학습하는 것—모두 배경 이벤트에서 오토에인코더와 약 83%의 일致도를 달성하고, 여덟 개의 신호 모델 중 일곱 개에서 오토에인코더를 능가하여, 복잡한 블랙박스 모델에 뒤지지 않는 성능을 유지하면서도 해석 가능한 탐지기가 복잡한 모델을 대체할 수 있음을 보여준다.

ABSTRACT

Anomaly detection with convolutional autoencoders is a popular method to search for new physics in a model-agnostic manner. These techniques are powerful, but they are still a "black box," since we do not know what high-level physical observables determine how anomalous an event is. To address this, we adapt a recently proposed technique by Faucett et al., which maps out the physical observables learned by a neural network classifier, to the case of anomaly detection. We propose two different strategies that use a small number of high-level observables to mimic the decisions made by the autoencoder on background events, one designed to directly learn the output of the autoencoder, and the other designed to learn the difference between the autoencoder's outputs on a pair of events. Despite the underlying differences in their approach, we find that both strategies have similar ordering performance as the autoencoder and independently use the same six high-level observables. From there, we compare the performance of these networks as anomaly detectors. We find that both strategies perform similarly to the autoencoder across a variety of signals, giving a nontrivial demonstration that learning to order background events transfers to ordering a variety of signal events.

연구 동기 및 목표

• 딥러닝 이상 탐지기의 '블랙박스' 성격을 해결하기 위해 그 의사결정 과정을 해석 가능하게 하기 위해.
• 원시 제트 이미지가 아닌 소수의 고수준 관측 기반으로 작동하는 모델에 종속되지 않는 해석 가능한 이상 탐지 방법을 개발하기 위해.
• 배경 이벤트에서의 의사결정 순서가 신호 이벤트로도 전이되는지 테스트하여 실험 분석에서 실용적이고 검증 가능한 이상 탐지가 가능한지 확인하기 위해.
• 간단하고 인간이 이해할 수 있는 모델이 복잡한 오토에인코더보다 이상 탐지 작업에서 성능을 동일하거나 초월할 수 있는지 보여주기 위해.

제안 방법

• 배경 제트 이미지만으로 훈련된 컨volutional 오토에인코더를 타겟 이상 탐지기로 사용하여 잠재 표현을 학습한다.
• 에너지 흐름 다항식(EFP) 기반에서 고수준 관측 기반을 사용해 두 가지 유형의 해석 가능한 모의 네트워크를 훈련하기 위해 지식 정렬 유사 접근법을 적용한다.
• 고수준 네트워크는 소수의 EFPs를 입력으로 받아 오토에인코더의 이상도 점수를 직접 예측한다.
• 쌍체 신경망은 서로 다른(다만 겹치는) EFP 집합을 사용하여 두 이벤트 중 어느 쪽이 오토에인코더 기준으로 덜 이상적인지 예측함으로써 이벤트 순서를 학습한다.
• 반복적인 선택 절차를 통해 오토에인코더의 배경 결정 순서를 가장 잘 재현하는 가장 관련성이 높은 EFPs를 식별한다.
• 모든 모의 네트워크를 배경 이벤트만으로 무 supervision 방식으로 훈련하여 새로운 신호 모델에 일반화 가능하도록 보장한다.

실험 결과

연구 질문

• RQ1 블랙박스 오토에인코더 이상 탐지기의 의사결정 과정을 소수의 해석 가능한 고수준 관측 기반으로 압축할 수 있는가?
• RQ2 배경 이벤트에서 훈련된 모의 네트워크가 다양한 신호 모델 전반에서 오토에인코더와 동일한 의사결정 순서를 유지하는가?
• RQ3 이상 탐지 행동을 가장 잘 반영하는 고수준 관측 기반은 무엇인가?
• RQ4 해석 가능한 단순 모델이 새로운 물리 신호 탐지에서 원래 오토에인코더를 능가할 수 있는가?
• RQ5 오토에인코더의 배경 이벤트 성능이 해석 가능한 모델로 압축된 후에도 신호 이벤트 성능을 예측할 수 있는가?

주요 결과

• 두 모의 전략 모두 배경 이벤트의 순서에서 오토에인코더와 약 83%의 일致도를 달성하여 의사결정 과정의 높은 정밀도를 보여준다.
• 고수준 네트워크와 쌍체 신경망이 독립적으로 동일한 여섯 개의 핵심 EFPs를 이상 탐지에 가장 유용한 것으로 식별한다.
• 모의 네트워크는 테스트된 여덟 개의 새로운 물리 신호 중 일곱 개에서 원래 오토에인코더를 능가하여 배경 이벤트의 의사결정 순서가 효과적으로 전이됨을 보여준다.
• 단지 여섯 개의 EFPs만을 사용함으로써 모델 복잡도를 크게 줄이고 해석 가능성은 높여가며 높은 성능의 이상 탐지가 가능하다.
• 결과는 오토에인코더의 잠재 공간이 제트 하위구조 복잡성과 같은 물리적으로 의미 있는 특징을 포착하고 있음을 확인하며, 이는 단순하고 인간이 이해할 수 있는 관측 기반으로 재구성 가능하다는 것을 뒷받침한다.
• 비감독 이상 탐지 성능이 배경 이벤트에서 얻어진 후, 해석 가능한 모델을 통해 효과적으로 신호 탐지로 전이됨을 확인한다.