[논문 리뷰] Event Selection Using an Extended Fisher Discriminant Method

Byron P. Roe|ArXiv.org|2003. 10. 29.

Neural Networks and Applications참고 문헌 1인용 수 4

한 줄 요약

이 논문은 입자물리학에서 사고 선택 시 고차원적이고 상관관계가 있는 비정규 분포 변수를 줄이기 위해 확장된 피셔 할선 방법을 제안한다. 원래 변수에 선형 조합과 비선형 변환(Log, Exp, 세제곱)을 적용한 후, 그람-슈미트 직교화를 통해 상관관계가 없는 표준화된 변수를 생성함으로써 49개의 입력 변수를 12개의 효과적인 특징으로 줄였다. 미니부오네 데이터에 적용한 결과, 이 방법은 신경망이 $ν_e$ 신호 이벤트의 46%를 유지하면서 $π^0/\nu_e$ 배경 비율을 원래 값의 1.1%로 줄이는 데 성공했다.

ABSTRACT

This note discusses the problem of choosing between hypotheses in a situation with many, correlated non-normal variables. A new method is introduced to shrink the many variables into a smaller subset of variables with zero mean, unit variance, and zero correlation coefficient between variables. These new variables are well suited to use in a neural net.

연구 동기 및 목표

• 입자물리학에서 다수의 상관관계가 있고 비정규 분포인 변수를 다룰 때 다변량 분석에서 최적의 변수를 선택하는 데 도전하는 데에 대비하기 위해.
• 고차원적이고 비정규 분포 데이터를 더 작은 수의 상관관계가 없고 표준화된 변수로 변환하는 반자동 방법을 개발하여 신경망 사용에 적합한 특징을 도출하기 위해.
• 차원 감소를 통해 분류 능력을 유지하면서 미니부오네 실험에서 신호-배경 분리 성능을 향상시키기 위해.
• 상관관계가 없는 평균이 0이고 분산이 1인 변수를 생성함으로써 신경망 학습과 해석을 단순화하기 위해.

제안 방법

• 원래 변수에 수정된 피셔 할선을 적용하여 평균의 제곱 차이를 통합 분산으로 나눈 비율을 최대화한다.
• 신호와 배경 평균의 차이에 해당하는 상관관계 행렬 $S$의 역행렬을 곱하여 최적의 선형 조합을 계산한다.
• 원본, 로그, 지수, 세제곱 변환을 적용한 네 가지 변수 집합에 대해 이 방법을 적용하여 총 12개의 후보 변수를 도출한다.
• 신호 평균과 배경 평균의 차이 $|\overline{x}_{\rm sig}-\overline{x}_{\rm bkg}|$를 두 분산 중 작은 값으로 나누어 정보가 많은 특징을 우선순위로 정렬한다.
• 선택된 피셔 조합을 기준으로 나머지 변수들을 그람-슈미트 절차를 사용해 직교화하여 상관관계가 0이 되도록 보장한다.
• 가장 기여도가 낮은 원래 변수를 반복적으로 제거하고 프로세스를 반복함으로써 상관관계가 없고 표준화된 특징의 시퀀스를 생성한다.

실험 결과

연구 질문

• RQ1 반자동 방법이 입자물리학의 사고 선택에서 고차원적이고 상관관계가 있으며 비정규 분포인 변수를 효과적으로 줄일 수 있는가?
• RQ2 원래 변수에 비선형 변환(Log, Exp, 세제곱)을 적용하면 기존 피셔 할선 분석을 넘어서 분류 성능을 향상시킬 수 있는가?
• RQ3 상관관계가 없고 표준화된 변수가 신호-배경 분리에서 신경망 성능을 얼마나 향상시킬 수 있는가?
• RQ4 이 방법은 미니부오네 실험에서 배경을 얼마나 효과적으로 줄이고 신호 효율성을 유지하는가?

주요 결과

• 이 방법은 원래 49개의 입자 식별 변수를 상관관계가 없고 표준화된 12개의 특징으로 줄였으며, 상관계수는 모두 0이 되었다.
• 12개의 유도된 변수로 훈련된 신경망은 $ν_e$ 신호 이벤트의 46%를 유지하면서 $π^0/\nu_e$ 배경 비율을 원래 값의 1.1%로 줄였다.
• 절차를 통해 신경망 튜닝이 단순화되었고, 첫 9개의 유도된 변수에 대한 그림을 통해 변수의 영향을 명확히 시각화할 수 있었다.
• 26개의 원래 변수 중 일부에 대해 훈련된 더 복잡한 신경망의 결과와 유사한 성능을 달성하여, 이 방법의 효율성을 입증했다.
• 비정규 분포이거나 상관관계가 있는 입력 변수가 있어도 이 방법은 강건했으며, 비다중정규 분포 환경에서 기존 피셔 분석보다 뛰어난 성능을 보였다.