[논문 리뷰] Tagging heavy flavours with boosted decision trees

João A. Bastos|ArXiv.org|2007. 02. 05.

Data Analysis with R참고 문헌 4인용 수 3

한 줄 요약

이 논문은 LHC에서 WH→lνqq̄ 사건의 몬테카를로 시뮬레이션을 사용하여 부스팅된 결정 트리(BDT)의 b-제트 태깅 성능을 평가한다. BDT는 AdaBoost를 사용한 반복적 트리 부스팅을 통해 물리적 관측량(예: 2차 정점 질량 및 영향 파라미터)을 조합함으로써 피드포워드 신경망을 능가하며, b-태깅 효율이 60%일 때 경제적 제트 기각률을 35% 높게 달성한다.

ABSTRACT

This paper evaluates the performance of boosted decision trees for tagging b-jets. It is shown, using a Monte Carlo simulation of $WH o lνq\bar{q}$ events that boosted decision trees outperform feed-forward neural networks. The results show that for a b-tagging efficiency of 60% the light jet rejection given by boosted decision trees is about 35% higher than that given by neural networks.

연구 동기 및 목표

• 고에너지 물리학에서 b-제트 태깅을 위한 부스팅된 결정 트리(BDT)의 성능 평가.
• 실제 몬테카를로 시뮬레이션을 사용하여 BDT와 피드포워드 신경망 간의 성능 비교.
• 중간 수준의 b-태깅 효율에서 BDT가 경제적 제트 기각률을 향상시킬 수 있는지 평가.
• BDT가 b-제트 태깅에서 신경망보다 우수한 대안이 될 잠재력 탐색.
• 2차 정점 질량, 영향 파라미터, 운동량 비율과 같은 물리적 관측량을 사용하여 방법의 유효성 검증.

제안 방법

• BDT는 AdaBoost 알고리즘을 사용하여 구현되며, 각 트리는 잘못 분류된 경우를 최소화하기 위해 가중치가 부여된 제트 패atters를 기반으로 훈련된다.
• 알고리즘은 Gini 지수를 최적화하여 각 분할에서 b-제트와 u-제트 간의 분리도를 극대화하는 방식으로 반복적으로 결합 트리를 구축한다.
• 각 트리 이후에 제트 가중치를 갱신한다: 잘못 분류된 제트는 강화(가중치 증가), 올바르게 분류된 제트는 가중치 감소된다.
• 최종 분류기 점수는 각 트리의 출력에 가중치를 적용한 가중합이며, 각 트리의 잘못 분류 오차(βk = log((1−εk)/εk))에 의해 결정된다.
• 입력 특징은 7개의 물리적 관측량을 포함한다: 2차 정점 질량, 영향 파라미터의 신뢰도(횡방향 및 종방향), 2차 정점 내 운동량 비율, 트랙 다중도.
• 성능 평가를 위해 별도의 테스트 샘플이 사용되어 분류기의 분류 능력에 대한 편향 없는 평가를 보장한다.

실험 결과

연구 질문

• RQ1 부스팅된 결정 트리(BDT)는 WH→lνqq̄ 사건의 b-제트 태깅에서 피드포워드 신경망을 능가할 수 있는가?
• RQ2 중간 수준의 b-태깅 효율에서 BDT의 경제적 제트 기각률은 신경망과 비교해 어떻게 되는가?
• RQ3 태깅 성능을 극대화하기 위해 BDT의 최적 설정(예: 트리 수, 최소 叶 크기)은 무엇인가?
• RQ4 2차 정점 질량 및 영향 파라미터와 같은 물리적 관측량이 BDT의 분류 능력에 기여하는 방식은 무엇인가?
• RQ5 완전한 시뮬레이션에서 검출기 효과 및 제트 겹침을 고려할 경우 BDT 방법은 여전히 뛰어난 성능을 유지하는가?

주요 결과

• b-태깅 효율이 60%일 때, 부스팅된 결정 트리는 피드포워드 신경망보다 약 35% 높은 경제적 제트 기각률을 달성한다.
• BDT의 성능 향상은 중간 수준의 b-태깅 효율에서 가장 두드러지며, 고효율 영역에서는 유의미한 이점이 없다.
• 최적의 BDT 설정은 叶당 최소 7000개의 제트와 수백 개의 트리 반복 후 수렴하는 것을 포함한다.
• BDT 점수는 [0,1] 범위로 정규화되며, 테스트 샘플에서 b-제트(실선)와 u-제트(점선) 간의 분리가 뛰어나게 나타난다.
• 신경망은 정규화된 입력과 1000 에포크, BFGS 알고리즘을 사용해 훈련되었지만, 여전히 BDT에 비해 경제적 제트 기각률에서 열등하다.
• 이 연구는 BDT가 특히 배경 억제가 요구되는 상황에서 b-제트 태깅에 있어 신경망의 유망한 대안임을 확인한다.