[논문 리뷰] Quark jet versus gluon jet: fully-connected neural networks with high-level features

Hui Luo, M. X. Luo외 3명|arXiv (Cornell University)|2017. 12. 11.

Particle physics theoretical and experimental studies인용 수 9

한 줄 요약

이 논문은 고수준 제트 관측량을 전문가가 설계한 것으로, 완전히 연결된 신경망(FNNs)을 사용하여 쿼크 제트와 글루온 제트를 분류하는 방법을 제안한다. 입자 수준 데이터에서는 경량 신경망(DCNNs)과 유사한 성능을 달성하며, 검출기 수준 데이터에서는 약 15%의 성능 저하만을 보인다. 넓은 $p_{TJ}$ 범위($[200, 1000]$ GeV)에서 훈련된 FNN은 개별 $p_{TJ}$ 밴드에서 훈련된 것과 거의 동일한 성능을 보이며, 14개의 관측량으로 구성된 최소한의 집합만으로도 거의 모든 분류 능력을 확보할 수 있다.

ABSTRACT

Jet identification is one of the fields in high energy physics that machine learning has begun to make an impact. More often than not, convolutional neural networks are used to classify jet images with the benefit that essentially no physics input is required. Inspired by a recent work by Datta and Larkoski, we study the classification of quark/gluon-initiated jets based on fully-connected neural networks (FNNs), where expert-designed physical variables are taken as input. FNNs are applied in two ways: trained separately on various narrow jet transverse momentum $p_{TJ}$ bins; trained on a wide region of $p_{TJ} \in [200,~1000]$ GeV. We find their performances are almost the same. The performance is better when the $p_{TJ}$ is larger. Jet discrimination with FNN is studied on both particle and detector level data. The results based on particle level data are comparable with those from deep convolutional neural networks, while the significance improvement characteristic (SIC) from detector level data would at most decrease by $15\%$. We also test the performance of FNNs with full set or subsets of jet observables as input features. The FNN with one subset consisting of fourteen observables shows nearly no degradation of performance. This indicates that these fourteen expert-designed observables could have captured the most necessary information for separating quark and gluon jets.

연구 동기 및 목표

• 물리 기반의 고수준 관측량을 사용하여 완전히 연결된 신경망(FNNs)의 쿼크 대 글루온 제트 분류 성능 평가
• 다양한 제트 횡방향 운동량($p_{TJ}$) 영역에서 FNN의 성능 비교를 통해 넓은 $p_{TJ}$ 범위에서의 훈련과 개별 밴드에서의 훈련 간 성능 비교
• 빠른 시뮬레이션(Delphes)을 사용하여 검출기 효과가 FNN 기반 제트 분류 성능에 미치는 영향 평가
• 최소한의 관측량 집합이 근사 최적의 분류 성능를 유지할 수 있는지 확인
• 얕은 FNN이 이 제트 태깅 작업에서 깊은 네트워크 성능을 따라할 수 있는지 조사

제안 방법

• 6개의 은닉층을 포함한 FNNs(각각 300개의 뉴런)를 입자 수준 및 검출기 수준 제트 데이터에서 훈련하며, 제트 질량, N-서브제트니스, 에너지 상관 함수, 다중성 등 총 36개의 전문가가 설계한 제트 관측량을 사용한다.
• 좁은 $p_{TJ}$ 밴드($[200,220]$, $[500,550]$, $[1000,1100]$ GeV)에서 별도의 FNN을 훈련하고, 넓은 $p_{TJ}$ 범위($[200,1000]$ GeV)에서 하나의 FNN을 훈련하여 운동량 스케일 간 일반화 성능 비교
• 검출기 효과는 Delphes를 사용하여 시뮬레이션하여, 쿼크-글루온 분리의 통계적 유의성(SIC) 저하 정도를 추정한다.
• ROC AUC와 50% 쿼크 제트 수용률에서의 글루온 제트 효율성을 사용하여 성능 평가하고, 관측량의 부분 집합에 대한 추출 실험을 통해 최소 효과적인 집합을 규명한다.
• 은닉층이 1개인 얕은 FNN을 깊은 FNN과 비교하여 이 분류 작업에서 깊이의 필요성을 평가한다.
• 제트 구조와 색 전하 차이를 인코딩하기 위해 $\tau_{1}^{(0.5)}$, $\tau_{2}^{(1)}$, $U_{1}^{(0.5)}$, $\lambda_{1}^{(0.5)}$, 그리고 입자 다중성 등의 관측량을 활용한다.

실험 결과

연구 질문

• RQ1 전문가가 설계한 고수준 관측량을 기반으로 훈련된 완전히 연결된 신경망(FNNs)이 경량 신경망(DCNNs)과 유사한 쿼크-글루온 제트 분류 성능를 달성할 수 있는가?
• RQ2 넓은 $p_{TJ}$ 범위($[200,1000]$ GeV)에서 하나의 FNN을 훈련하는 것이 좁은 $p_{TJ}$ 밴드에서 별도로 훈련한 FNN과 유사한 성능를 보이는가?
• RQ3 검출기 해상도와 수용도의 영향을 고려할 때, FNN을 사용한 쿼크-글루온 분리의 통계적 유의성은 얼마나 저하되는가?
• RQ4 근사 최대 성능를 유지할 수 있는 최소한의 제트 관측량 집합이 존재하는가?
• RQ5 은닉층이 1개인 얕은 FNN이 이 제트 태깅 작업에서 깊은 네트워크 성능를 따라할 수 있는가?

주요 결과

• FNN은 $p_{TJ} \in [1000,1100]$ GeV에서 ROC AUC가 0.899를 기록하며, 동일한 $p_{TJ}$ 밴드에서 DCNN보다 높은 성능를 보였다.
• $p_{TJ} \in [1000,1100]$ GeV에서 50% 쿼크 제트 수용률에서의 글루온 제트 효율은 2.8%로, 고 $p_{TJ}$ 영역에서 강력한 분류 능력을 보였다.
• 넓은 $p_{TJ}$ 범위($[200,1000]$ GeV)에서 훈련된 FNN의 성능는 개별 $p_{TJ}$ 밴드에서 훈련된 것과 거의 동일하여, 양호한 일반화 능력을 보였다.
• 검출기 효과로 인해 통계적 유의성 향상 특성(SIC)이 최대 15% 이하로 저하되었으며, 현실적인 검출기 해상도와 수용도에 대해 강건함을 보였다.
• 제트 질량, $\tau_{1}^{(0.5)}$, $\tau_{2}^{(1)}$, $\tau_{3}^{(2)}$, $U_{1}^{(0.5)}$, $\lambda_{1}^{(0.5)}$, 다중성 등 총 14개의 관측량으로 구성된 최소 집합이 전체 36개 관측량 집합과 거의 동일한 성능를 달성했다.
• 은닉층이 1개인 얕은 FNN(300개 뉴런)이 6층의 깊은 FNN과 동일한 성능를 보였으며, 선택된 관측량이 간단한 모델에 충분한 분류 정보를 포함하고 있음을 시사했다.