[논문 리뷰] An unfolding method based on conditional Invertible Neural Networks (cINN) using iterative training

Mathias Backes, Anja Butter외 2명|arXiv (Cornell University)|2022. 12. 16.

Neural Networks and Applications인용 수 7

한 줄 요약

이 논문은 고에너지 물리학에서 이벤트별 언폴딩을 위한 반복적 조건부 가역 신경망(IcINN)을 제안한다. 이는 시뮬레이션 훈련 데이터와 실제 데이터 간의 괴리 문제를 해결하기 위한 것이다. 데이터 기반 재가중 기법을 사용해 반복적으로 우도 모델을 개선함으로써 IcINN은 고차원 위상공간에서 언폴딩 정확도를 향상시키며, 토이 모델 및 $pp\to Z\gamma\gamma$ 가짜 데이터에서 검증된 폐쇄성과 불확도 제어를 통해 견고한 성능을 보였다.

ABSTRACT

The unfolding of detector effects is crucial for the comparison of data to theory predictions. While traditional methods are limited to representing the data in a low number of dimensions, machine learning has enabled new unfolding techniques while retaining the full dimensionality. Generative networks like invertible neural networks~(INN) enable a probabilistic unfolding, which map individual events to their corresponding unfolded probability distribution. The accuracy of such methods is however limited by how well simulated training samples model the actual data that is unfolded. We introduce the iterative conditional INN~(IcINN) for unfolding that adjusts for deviations between simulated training samples and data. The IcINN unfolding is first validated on toy data and then applied to pseudo-data for the $pp o Z γγ$ process.

연구 동기 및 목표

• 시뮬레이션 훈련 샘플이 실제 검출기 효과를 완전히 반영하지 못하는 언폴딩 문제에서 지속적으로 발생하는 데이터-MC 불일치 문제를 해결하기 위해.
• 이벤트 수준 정보를 버킷화 없이 유지하면서도 확장 가능한 고차원 언폴딩 방법을 개발하기 위해.
• 조건부 가역 흐름을 사용해 시뮬레이션 훈련 데이터와 실제 데이터 간의 편향을 반복적으로 교정함으로써 언폴딩 정확도를 향상시키기 위해.
• 실제 데이터 응용에서 위상공간 영역 간 신뢰할 수 있는 불확도 추정과 상관관계 모델링을 보장하기 위해.
• 실제 실험 데이터에 IcINN를 적용하기 위한 재현 가능하고 오픈소스 프레임워크를 제공하기 위해.

제안 방법

• 이 방법은 조건부 가역 신경망(cINN)을 사용해 후행 분포 $p(x|y)$를 모델링함으로써 재구성된 데이터에서 진짜 수준 분포로의 확률론적, 이벤트 수준 언폴딩을 가능하게 한다.
• 반복적 재가중 루프를 도입: 각 언폴딩 단계 이후에 분류기가 언폴딩된 데이터와 진짜 MC 데이터를 기반으로 재학습되어 데이터-MC 불일치를 보정한다.
• cINN는 잔차 연결을 갖춘 조건부 커플링 블록 아키텍처로 훈련되며, 사이클릭 학습률 스케줄링을 사용한 ADAM 최적화 기법을 적용한다.
• 분류기는 진짜 수준의 MC와 언폴딩된 재구성 데이터를 구분하도록 훈련되며, 반복적 언폴딩에서 발생하는 클래스 불균형을 보완하기 위해 손실 함수에 가중치를 적용한다.
• 반복 과정에서 각 단계에서 우도 모델이 업데이트되어 시뮬레이션 정확도 부족으로 인한 편향이 점차 감소한다.
• 폐쇄성 검증은 각 반복 단계에서 언폴딩된 데이터와 진짜 분포를 비교함으로써 수행되며, 수렴성과 신뢰성 검증을 위해 사용된다.

실험 결과

연구 질문

• RQ1 반복적 개선을 통해 cINN 우도 모델을 개선하면 고차원 언폴딩에서 데이터-MC 불일치로 인한 편향을 줄일 수 있는가?
• RQ2 IcINN 방법은 실제 가짜 데이터에서 위상공간 영역 간 통계적 불확도와 상관관계를 어떻게 유지하고 있는가?
• RQ3 반복적 재가중 기법은 단일 단계 cINN 또는 전통적 방법에 비해 이벤트 수준 언폴딩의 정밀도를 얼마나 향상시킬 수 있는가?
• RQ4 반복적 cINN 접근법은 과적합 없이 여러 반복 단계에서 안정성과 수렴성을 유지하는가?
• RQ5 이중 다차원 과정인 $pp\to Z\gamma\gamma$ 와 같은 복잡한 과정에 대해 버킷화나 차원 축소 없이 효과적으로 적용 가능한가?

주요 결과

• IcINN 방법은 데이터-MC 불일치로 인한 편향을 성공적으로 감소시켰으며, 여러 반복 후 언폴딩된 데이터와 진짜 분포 간 양호한 일치를 보이는 폐쇄성 검증 결과를 얻었다.
• $pp\to Z\gamma\gamma$ 가짜 데이터 연구에서 반복적 접근이 비반복적 cINN에 비해 언폴딩 정확도를 향상시켰으며, 특히 강한 검출기 효과가 있는 영역에서 뚜렷한 개선을 보였다.
• 위상공간 영역 간 통계적 불확도와 상관관계는 반복 과정 전반에 걸쳐 일관되게 모델링되고 전파되었으며, 신뢰할 수 있는 현상학적 응용이 가능했다.
• 분류기 기반 재가중 단계는 높은 수렴성을 보였으며, 반복 횟수에 따라 언폴딩된 데이터와 진짜 MC 분포 간 일치도가 점차 향상되었다.
• 데이터 및 MC에 대한 폐쇄성 검증 결과, 방법이 견고하며, 예상대로 MC에서는 더 작은 편차를 보였고, 각 반복 단계에서 데이터의 편차는 제어되고 개선됨을 확인했다.
• 비율 플롯 등 포괄적인 점검을 통해 방법의 안정성과 정확성이 검증되었으며, 이는 안정성과 정확성을 확인하는 데 기여했다.