[논문 리뷰] Opening the black box of neural nets: case studies in stop/top discrimination

Thomas Roxlo, Matthew Reece|arXiv (Cornell University)|2018. 04. 24.

Computational Physics and Python Applications참고 문헌 94인용 수 29

한 줄 요약

이 논문은 깊이 있는 신경망의 해석을 위해 특정 뉴런을 최대한 활성화시키는 인위적 사건을 생성함으로써 입자물리학에서의 딥 뉴럴 네트워크를 해석하는 방법을 제안한다. 이를 통해 결정 경계의 시각화와 인간이 이해할 수 있는 규칙의 추출이 가능해지며, 스토프/톱 구분 문제에 적용했을 때 기존의 물리학 변수(예: mT2)뿐 아니라 새로운 각도 상관관계를 학습하는 것으로 드러났다. 특히 경량 스토프나 은폐 신호와 같은 어려운 상황에서 두드러진다.

ABSTRACT

We introduce techniques for exploring the functionality of a neural network and extracting simple, human-readable approximations to its performance. By performing gradient ascent on the input space of the network, we are able to produce large populations of artificial events which strongly excite a given classifier. By studying the populations of these events, we then directly produce what are essentially contour maps of the network's classification function. Combined with a suite of tools for identifying the input dimensions deemed most important by the network, we can utilize these maps to efficiently interpret the dominant criteria by which the network makes its classification. As a test case, we study networks trained to discriminate supersymmetric stop production in the dilepton channel from Standard Model backgrounds. In the case of a heavy stop decaying to a light neutralino, we find individual neurons with large mutual information with $m_{T2}^{\ell\ell}$, a human-designed variable for optimizing the analysis. The network selects events with significant missing $p_T$ oriented azimuthally away from both leptons, efficiently rejecting $t\overline{t}$ background. In the case of a light stop with three-body decays to $Wb{\widetilde χ}$ and little phase space, we find neurons that smoothly interpolate between a similar top-rejection strategy and an ISR-tagging strategy allowing for more missing momentum. We also find that a neural network trained on a stealth stop parameter point learns novel angular correlations.

연구 동기 및 목표

• 고에너지 물리학에서 높은 성능를 보이지만 '검은 상자'처럼 행동하는 딥 뉴럴 네트워크(DNN)의 해석 가능성 문제를 해결하기 위해.
• 사전 정의된 물리학 변수에 의존하지 않고도 훈련된 DNN에서 인간이 이해할 수 있고 물리적으로 해석 가능한 결정 규칙을 체계적으로 추출하는 방법을 개발하기 위해.
• 伝통적인 물리학 기반 변수와 전략과 비교하여, DNN가 초과대칭 스토프 신호를 표준모형 배경과 어떻게 분류하는지 비교하기 위해.
• DNN가 복잡한 사건 구조에서 기존의 물리학 기법을 단순히 반복하는지, 아니면 새로운 비트리비얼 상관관계를 발견하는지 조사하기 위해.
• 다양한 최종 상태와 질량 스펙트럼을 가진 스토프 붕괴 사례 연구를 통해 해석 방법의 타당성을 검증하기 위해.

제안 방법

• 훈련된 DNN의 개별 뉴런을 강하게 활성화시키는 인위적 사건을 생성하기 위해 입력 공간에서 경사 상승법을 수행한다.
• 이러한 활성화 최대화 사건들로부터 입력 변수의 다차원 히스토GRAM을 구성하여 각 뉴런이 활성화되는 입력 공간의 영역을 시각화한다.
• 수정된 DBSCAN 알고리즘을 적용하여 히스토GRAM 내의 군집(또는 '섬')을 식별하고, 내부 군집과 경계 군집을 구분하여 극단적인 입력 값이 나타나는 영역를 식별한다.
• 각 식별된 군집을 다항식 함수(내부 군집은 이차함수, 경계 군집은 교차항이 포함된 선형 함수)로 모델링하고 시그모이드 활성화 함수를 통과시켜 이진 지표를 생성한다.
• 이러한 군집 모델들을 선형 조합으로 조합하고 L1-정규화된 경사 하강법을 사용하여, 뉴런의 활성화를 근사하는 간결하고 해석 가능한 ' caveperson 변수'를 생성한다.
• 이러한 캐브먼 변수를 사용하여 네트워크의 결정 논리가 기존의 물리학 변수와 직접 비교 가능하며, 그 분류 성능를 평가할 수 있다.

실험 결과

연구 질문

• RQ1 훈련된 DNN에서 스토프 신호를 표준모형 배경과 분류하기 위해 설계된 모델로부터 인간이 이해할 수 있는, 해석 가능한 결정 규칙를 추출할 수 있는가?
• RQ2 DNN는 mT2^ℓℓ와 같은 알려진 물리학 변수를 학습하는가, 아니면 더 효과적인 새로운 분류자들을 발견하는가?
• RQ3 경량 스토프나 3체 붕괴, 또는 눈에 띄는 붕괴 제품이 없는 은폐 스토프와 같은 어려운 스토프 상황에서는 DNN가 어떻게 대처하는가?
• RQ4 강한 위상공간 억제나 명확한 구조가 없는 상황에서 DNN는 어떤 종류의 각도 및 운동량 상관관계를 학습하는가?
• RQ5 네트워크가 학습한 특징들이 전통적인 물리학에 기반한 분석 전략과 얼마나 일치하거나 다를까?

주요 결과

• 무거운 스토프의 경우, 네트워크는 두 렙톤에서 멀리 떨어진 방향으로 큰 미소 전단 운동량(pT)을 가진 사건을 우선시하며, 이는 mT2^ℓℓ 변수와 거의 정확히 일치한다.
• 3체 붕괴로 인해 위상공간이 제한된 경량 스토프의 경우, 네트워크는 토프 거부 전략과 ISR 태깅 전략 사이를 매끄럽게 보간하여, 미소 운동량 감도를 향상시킨다.
• 은폐 스토프 상황에서는 네트워크가 기존의 표준 변수가 포착하지 못하는 새로운 비트리비얼한 렙톤 간 및 미소 운동량 간의 각도 상관관계를 발견한다.
• 이 방법은 검증 테스트에서 원래 뉴런 활성화와 강한 일치를 보이며, 높은 분류 성능를 유지하는 '캐브먼 변수'를 성공적으로 생성하였다.
• 뉴런들이 mT2^ℓℓ와 높은 상호정보량을 가지는 것으로 밝혀져, 네트워크가 데이터 기반 방식으로 기존에 알려진 효과적인 물리학 변수를 학습하고 있음을 확인하였다.
• 활성화 최대화 기법을 통해 네트워크의 결정 경계가 단일 관측량의 간단한 임계값 설정이 아니라, 복잡한 다변수 상관관계에 의해 형성됨을 드러냈다.