[논문 리뷰] Benchmarking Machine Learning Techniques with Di-Higgs Production at the LHC

B. Tannenwald, C. Neu외 6명|arXiv (Cornell University)|2020. 09. 14.

Particle physics theoretical and experimental studies참고 문헌 4인용 수 4

한 줄 요약

이 논문은 허브-허브 보손 생성(hh → bb̄bb̄)을 HL-LHC에서 식별하기 위해 다양한 기계학습 기법—기존의 부스팅된 决정 트리에서 딥 네ural 네트워크, 오토에인코더에 이르기까지—를 벤치마킹한다. 14 TeV 프로톤-프로톤 충돌을 3000 fb⁻¹ 루미노시티로 시뮬레이션한 결과, 컨볼루션 네ural 네트워크(CNN)가 2.85 ± 0.02의 최고의 유의성 확보를 하였으며, 기존의 절단 기반 방법과 비지도 오토에인코더는 유사도가 낮은 잠재공간에서의 신호-배경 분리로 인해 각각 0.81 ± 0.01에 그쳤다.

ABSTRACT

Many domains of high energy physics analysis are starting to explore machine learning techniques. Powerful methods can be used to identify and measure rare processes from previously insurmountable backgrounds. One of the most profound Standard Model signatures still to be discovered at the LHC is the pair production of Higgs bosons through the Higgs self-coupling. The small cross section of this process makes detection very difficult even for the decay channel with the largest branching fraction ($hh ightarrow b\bar{b}b\bar{b}$). This paper benchmarks a variety of approaches (boosted decision trees, various neural network architectures, semi-supervised algorithms) against one another to catalog a few of the various techniques available to high energy physicists as the era of the HL-LHC approaches.

연구 동기 및 목표

• HL-LHC에서 주요 bb̄bb̄ 붕괴 채널에서 희귀 허브-허브 생성을 식별하기 위해 다양한 기계학습 기법을 평가하고 비교하는 것.
• 기계학습 방법의 성능을 이상화된 0-파일업 조건 하에서 평가하여 HL-LHC 환경를 모의함.
• 희귀 허브-허브 신호를 주요 QCD 다이젯 배경으로부터 분리하는 데 가장 효과적인 아키텍처를 규명하는 것.
• 기존의 운동량 절단 기반 방법에 비해 현대 기계학습 기법의 민감도 향상을 기록함으로써 향후 고에너지 물리 분석의 기준을 제공하는 것.

제안 방법

• 허브-허브 (hh → bb̄bb̄) 및 QCD 다이젯 배경 이벤트는 MadGraph v2.7.0를 사용해 생성하였고, Pythia v8.2.44로 샤워링 처리하고, Phase-II CMS 검출기의 조건을 반영해 Delphes v3.0로 재구성하였다.
• 다양한 기계학습 모델을 학습시켰다: 부스팅된 决정 트리, 피드포워드 및 컨볼루션 네ural 네트워크, 랜덤 포레스트, k-means 클러스터링, 입자 흐름 네트워크, 그리고 ReLU 및 시그모이드 활성화 함수를 사용한 L2 정규화를 적용한 오토에인코더.
• 오토에인코더는 QCD 이벤트에 대해 비지도 방식으로 학습하여 압축된 잠재 표현을 학습하였으며, 신호 이벤트는 재구성 오차가 더 높을 것으로 기대되었다.
• 유의성은 σ = N_signal / √N_background 공식으로 계산되었으며, 수확량은 3000 fb⁻¹ 통합 루미노시티로 정규화하고 통계적 불확실성을 전파하였다.
• 모든 모델은 0-파일업 조건 하에서 평가되었으며, 선택 절단 후의 신호 및 배경 이벤트 수와 유의성 결과가 보고되었다.
• 재구성에 의존하는 모델의 성능 저하 가능성을 고려하여, 파일업 없이 단순화된 이벤트 생성과 최소한의 강입자 활동 절단 조건을 사용하여 기계학습 아키텍처의 영향을 고립적으로 분석하였다.

실험 결과

연구 질문

• RQ1 0-파일업 조건 하에서 주요 QCD 다이젯 배경에 둘러싸인 허브-허브 생성(hh → bb̄bb̄)을 식별하는 데 있어 어떤 기계학습 아키텍처가 가장 높은 유의성을 달성하는가?
• RQ2 학습 시 레이블을 사용하지 않은 비지도 방법인 오토에인코더는 희귀 허브-허브 이벤트 탐지에서 지도 학습 모델에 비해 어떻게 비교되는가?
• RQ3 컨볼루션 네ural 네트워크 및 입자 흐름 네트워크와 같은 딥 러닝 아키텍처는 기존의 운동량 절단 기반 방법과 트리 기반 모델에 비해 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ4 모델 고유의 특징과 잠재공간 표현은 고차원 위상공간에서의 신호 및 배경 이벤트 분리에 어떤 영향을 미치는가?
• RQ5 HL-LHC의 고파일업 환경에서 예상되는 재구성 과제에 대해 다양한 기계학습 기법은 얼마나 견고한가?

주요 결과

• 컨볼루션 네ural 네트워크(CNN)는 2.85 ± 0.02의 최고 유의성 확보를 하였으며, 기존의 1차원 직사각형 절단(0.82 ± 0.02) 및 기타 모델들보다 뚜렷이 뛰어난 성능을 보였다.
• 입자 흐름 네트워크(PFN)는 1.62 ± 0.01의 유의성 확보를 하였으며, 재구성된 제트 및 입자 수준 입력에 의존함에도 불구하고 뛰어난 성능을 보였다.
• 랜덤 포레스트 모델은 2.44 ± 0.19의 유의성 확보를 하였으며, 544.7 ± 6.3개의 신호 이벤트와 50,000개의 배경 이벤트를 기록하여 뛰어난 신호 유지 능력을 보였다.
• 비지도 방법인 오토에인코더는 오직 0.81 ± 0.01의 유의성 확보를 하였으며, 잠재공간에서의 손실 분포가 겹쳐져 신호와 배경 간 분리가 불량함을 시사하였다.
• 부스팅된 결정 트리는 1.84 ± 0.09의 유의성 확보를 하였으며, 986.3 ± 8.9개의 신호 이벤트와 280,000개의 배경 이벤트를 기록하여 기존 절단 기반 방법에 비해 중간 정도의 향상을 보였다.
• 모든 결과는 0-파일업 조건 하에서 확보되었으며, 이는 재구성에 의존하는 모델이 고파일업 환경에서 상당한 성능 저하를 겪을 수 있음을 시사하며, CNN과 PFN과 같은 모델에 의존하지 않는 접근 방식이 유리할 수 있음을 시사한다.