[논문 리뷰] Toward the End-to-End Optimization of Particle Physics Instruments with Differentiable Programming: a White Paper

T. Dorigo, A. Giammanco외 34명|arXiv (Cornell University)|2022. 03. 22.

Nuclear reactor physics and engineering인용 수 8

한 줄 요약

이 화이트페이퍼는 입자물리학 기기의 엔드 투 엔드 최적화를 위한 미분 가능 프로그래밍 프레임워크를 제안하며, 기하학, 재료, 데이터 처리 파rameter에 대한 기울기 기반 탐색을 가능하게 한다. 미분 가능한 물리 시뮬레이션과 딥러닝을 통합함으로써, 물리학, 비용, 제약 조건을 고려한 종합적이고 목적 기반의 설계 최적화를 실현하며, 검출기 시스템에서 혁신적인 성능 향상을 이끌 수 있다.

ABSTRACT

The full optimization of the design and operation of instruments whose functioning relies on the interaction of radiation with matter is a super-human task, given the large dimensionality of the space of possible choices for geometry, detection technology, materials, data-acquisition, and information-extraction techniques, and the interdependence of the related parameters. On the other hand, massive potential gains in performance over standard, "experience-driven" layouts are in principle within our reach if an objective function fully aligned with the final goals of the instrument is maximized by means of a systematic search of the configuration space. The stochastic nature of the involved quantum processes make the modeling of these systems an intractable problem from a classical statistics point of view, yet the construction of a fully differentiable pipeline and the use of deep learning techniques may allow the simultaneous optimization of all design parameters. In this document we lay down our plans for the design of a modular and versatile modeling tool for the end-to-end optimization of complex instruments for particle physics experiments as well as industrial and medical applications that share the detection of radiation as their basic ingredient. We consider a selected set of use cases to highlight the specific needs of different applications.

연구 동기 및 목표

• 기존의 경험 기반 방법이 최적의 구성 요소를 탐색하지 못하는 입자 검출기 설계의 극도로 복잡하고 고차원적인 특성을 다루기 위해.
• 입자 검출기와 같은 양자 우세 시스템에서 고전적 통계 모델링의 비가역성 문제를 미분 가능한 시뮬레이션 파이프라인을 통해 해결하기 위해.
• 물리학, 비용, 제약 조건을 고려한 종합적 유틸리티 함수와 설계 목표를 일치시킴으로써 검출기 성능의 체계적 최적화를 가능하게 하기 위해.
• 다양한 분야의 응용 분야에서 시뮬레이션, 재구성, 최적화 워크플로우를 통합하기 위한 모듈러하고 확장 가능한 소프트웨어 프레임워크를 개발하기 위해.
• 경험에 의존하는 설계에서 데이터 기반의 미분 가능 최적화로의 전환을 촉진하여 전문가의 직관에 의존하는 것을 줄이고 성능 및 비용 효율성을 향상시키기 위해.

제안 방법

• 물리 시뮬레이션에 기반한 사전 학습된 서rogate 모델을 사용하여 입자 상호작용, 물질, 검출 기술을 모델링하는 완전히 미분 가능한 시뮬레이션 파이프라인을 구축하기 위해.
• 모든 설계 파rameter(검출기 기하학, 재료 특성, 재구성 알고리즘 포함)에 대해 전체 기기 응답의 기울기를 계산하기 위해 역방향 자동 미분(AD)을 적용하기 위해.
• 패턴 인식 및 이벤트 재구성 절차의 미분 가능한 버전을 통합하여 원시 검출기 신호에서 최종 물리 관측량에 이르는 엔드 투 엔드 기울기 흐름을 가능하게 하기 위해.
• 비용, 크기, 재료 가용성 등의 시스템 수준 제약 조건을 가능하게 하기 위해, 최적화 중 타당한 해를 확보하기 위해 미분 가능한 함수로 모델링하기 위해.
• 고차원 설계 공간에서 기울기 기반 최적화를 수행하기 위해 딥러닝 프레임워크(예: PyTorch, JAX)를 미분 가능한 최적화 백엔드로 사용하기 위해.
• 클라우드 배포, 외부 시뮬레이터(예: Geant4), 벤치마킹 도구(예: Weights & Biases)를 위한 인터페이스를 갖춘 모듈러한 소프트웨어 스택을 설계하여 확장성 있고 재현 가능한 최적화를 가능하게 하기 위해.

실험 결과

연구 질문

• RQ1 미분 가능 프로그래밍은 복잡한 다단계 시뮬레이션 및 재구성 파이프라인을 통해 엔드 투 엔드 최적화를 가능하게 할 수 있는가?
• RQ2 물리 시뮬레이션에 기반한 서rogate 모델을 어떻게 미분 가능하게 만들고, 전체 최적화 파이프라인에 통합할 수 있는가?
• RQ3 기울기 기반 최적화가 전통적인 히우리스틱 설계 방법에 비해 성능, 비용, 자원 효율성 측면에서 얼마나 뛰어나게 작용할 수 있는가?
• RQ4 확장 가능하고 모듈러하며 확장 가능한 검출기 시스템을 위한 미분 가능한 최적화 프레임워크를 구축할 때의 핵심 아키텍처 및 구현 과제는 무엇인가?
• RQ5 예산, 크기, 재료 가용성과 같은 외부 제약 조건을 최적화 루프 내에서 어떻게 미분 가능한 함수로 표현할 수 있는가?

주요 결과

• 미분 가능 프로그래밍은 기하학, 재료, 재구성 알고리즘을 포함한 전체 검출기 설계 공간에서 기울기 기반 최적화를 가능하게 하며, 이는 고전적 통계 방법으로는 비가능한 영역이다.
• 미분 가능한 물리 시뮬레이터와 서rogate 모델의 통합은 복잡한 확률적 입자-물질 상호작용을 통해 기울기를 자동으로 계산할 수 있도록 한다.
• 엔드 투 엔드의 미분 가능성은 신호 대 배경 비율, 에너지 해상도, 검출 효율성과 같은 복잡한 목표를 단일 통합 파이프라인에서 최적화할 수 있도록 한다.
• 이 프레임워크는 고차원 설계 공간의 체계적 탐색을 가능하게 하며, 인간의 직관을 초월한 비직관적이나 고성능의 구성 요소를 발견할 가능성이 있다.
• 제안된 아키텍처는 기존 시뮬레이션 도구(예: Geant4) 및 최적화 백엔드(예: PyTorch, JAX)와의 통합을 지원하여 클라우드 및 HPC 환경에서의 배포를 가능하게 한다.
• 카로리메터 최적화, 뮤온 톰그래피, 향후 콜라이더 검출기 등의 사례 연구는 이 접근법의 타당성과 다양한 응용 분야에서의 잠재적 영향력을 입증한다.