[논문 리뷰] Decorrelation with conditional normalizing flows

Samuel Klein, T. Golling|arXiv (Cornell University)|2022. 11. 04.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

이 논문은 고에너지 물리학에서 보호된 속성(예: 불변 질량)과의 상관관계를 제거하기 위해 조건부 정규화 플로우를 사용하는 것을 제안한다. 이는 신호 분리 능력을 유지하면서 질량에 의존하는 배경 구조 조정을 제거함으로써, 표준 방법에 비해 더 높은 버블헌트 감도를 확보한다. 이 방법은 최소한의 성능 손실로 거의 완벽한 비상관관계를 달성하며, 후속 분석에서의 감도를 크게 향상시킨다.

ABSTRACT

The sensitivity of many physics analyses can be enhanced by constructing discriminants that preferentially select signal events. Such discriminants become much more useful if they are uncorrelated with a set of protected attributes. In this paper we show that a normalizing flow conditioned on the protected attributes can be used to find a decorrelated representation for any discriminant. As a normalizing flow is invertible the separation power of the resulting discriminant will be unchanged at any fixed value of the protected attributes. We demonstrate the efficacy of our approach by building supervised jet taggers that produce almost no sculpting in the mass distribution of the background.

연구 동기 및 목표

• 신호가 풍부한 샘플이 분류기와의 상관관계로 인해 불변 질량에 따라 변형되는 배경 질량 구조 조정 문제를 해결하기 위해.
• 보호된 속성(예: 질량)의 모든 값에서 원래 분류기의 분리 능력을 유지하는 후처리 비상관관계 방법을 개발하기 위해.
• 분류기의 질량에 대한 상관관계에 관계없이 질량 스펙트럼 전반에서 균일한 배경 거부 성능을 확보함으로써 강건한 버블헌트 분석을 가능하게 하기 위해.
• 모델 재학습이 필요 없이 어떤 분류기와 보호된 속성 조합에도 적용 가능한 유연하고 역행할 수 있는 프레임워크를 제공하기 위해.

제안 방법

• 조건부 정규화 플로우는 분류기 출력 $ s_{\phi}(\boldsymbol{x}) $ 를 새로운 표현 $ f_{\theta}(s_{\phi}(\boldsymbol{x}), \boldsymbol{m}) $ 로 매핑하도록 훈련되며, 여기서 $ \boldsymbol{m} $ 은 보호된 속성(예: 질량)을 의미한다.
• 플로우는 변수 변경 공식에 기반한 최대 로그우도 기반으로 훈련되어, 변환된 출력이 $ \boldsymbol{m} $ 에 독립적인 기본 분포를 따르게 하며, 이로써 비상관관계가 달성된다.
• 플로우의 역행성은 고정된 $ \boldsymbol{m} $ 값에서 신호 분리 능력(AUC 등)이 그대로 유지됨을 보장하여, 분류기의 유용성이 손상되지 않도록 한다.
• 모든 질량 값에서 점수의 순서가 유지되도록 플로우가 단조증가하도록 제약을 둔다. 이는 분리 능력을 유지하는 데 핵심적이다.
• 이 방법은 어떤 사전 훈련된 분류기 위에 후처리 레이어로 적용 가능하므로, 원래 모델을 재학습하지 않고도 비상관관계를 달성할 수 있다.
• 조건부 분위위 회귀와 같은 대안적 접근법도 평가되었으며, 유사한 비상관관계 성능를 보였지만, 불연속적인 분위위 예측으로 인해 더 불안정한 성능을 보였다.

실험 결과

연구 질문

• RQ1 후처리 변환을 통해 분류기의 분리 능력을 저하시키지 않고도 보호된 속성(예: 불변 질량)과의 상관관계를 제거할 수 있는가?
• RQ2 기존의 비상관관계 방법에 비해 조건부 정규화 플로우가 질량 스펙트럼 전반에서 균일한 배경 거부 성능을 얼마나 효과적으로 달성하는가?
• RQ3 사전 훈련된 분류기의 출력에 조건부 플로우를 적용하는 것이 고에너지 물리학에서의 버블헌트 분석의 강건성을 향상시키는가?
• RQ4 분류기 성능에 대해 분류기 출력의 비상관관계와 입력 특성의 비상관관계 중 어느 것이 더 효과적인가?
• RQ5 다양한 런에 걸쳐 조건부 정규화 플로우와 분위위 회귀의 안정성 및 비상관관계 성능를 비교했을 때 어떤 차이가 있는가?

주요 결과

• 조건부 정규화 플로우는 배경 질량 분포와 무작위 표본 간의 제닝-숄린 거리(Jensen-Shannon divergence, JSD)가 약 0.001로 나타나, 분류기의 질량 변수와의 거의 완벽한 비상관관계를 달성함을 입증한다.
• 표준 vDNN의 질량 포함 AUC는 0.90이지만, 플로우를 통한 비상관관계 처리 후에는 0.84로 감소한다. 그러나 이는 성능 저하가 아니라 질량 구조 조정이 제거된 결과이며, 신호 질량 분포에 대한 기대 AUC는 양 모델 모두 0.84로 동일하다.
• 조건부 플로우를 통한 비상관관계 처리를 적용한 DisCo 분류기는 표준 DisCo 및 입력 특성 비상관관계 처리를 적용한 DisCo보다 우수한 성능를 보이며, 출력 수준의 비상관관계가 입력 수준의 비상관관계보다 더 효과적이고 비용이 더 적다는 것을 입증한다.
• 역행성 변환 덕분에 모든 질량 범위에서 사건의 점수 순서가 유지되므로, 질량의 각 값에서 신호 분리 능력이 그대로 유지된다.
• 분위위 회귀 역시 양호한 비상관관계 성능를 보였지만, 불연속적인 분위위 예측으로 인해 런 간 변동성이 더 크며, 플로우 기반 접근보다 신뢰성이 떨어진다.
• 다양한 수준의 배경 거부 조건에서도 이 방법은 강건하며, 조건부 플로우와 분위위 회귀 모두 고배경 거부 임계값에서도 비상관관계를 유지함을 그림 9에서 확인할 수 있다.