[논문 리뷰] Training Neural Networks for Likelihood/Density Ratio Estimation

George V. Moustakides, Kalliopi Basioti|arXiv (Cornell University)|2019. 11. 01.

Anomaly Detection Techniques and Applications참고 문헌 19인용 수 15

한 줄 요약

이 논문은 표본에서 직접 파rametric 밀도 가정 없이도 신경망을 학습시켜 우도 비율과 그 변환(예: 로그 우도 비율)을 추정하는 통합적이고 데이터 기반의 방법론을 제안한다. 최적화 문제를 설정하여 신경망 해가 원하는 함수로 수렴하도록 보장함으로써, 탐지 및 가설 검정에서 정확한 추정이 가능해지며, 시뮬레이션 결과 2,500개의 학습 샘플만으로도 거의 최적의 성능를 달성함을 보여준다.

ABSTRACT

Various problems in Engineering and Statistics require the computation of the likelihood ratio function of two probability densities. In classical approaches the two densities are assumed known or to belong to some known parametric family. In a data-driven version we replace this requirement with the availability of data sampled from the densities of interest. For most well known problems in Detection and Hypothesis testing we develop solutions by providing neural network based estimates of the likelihood ratio or its transformations. This task necessitates the definition of proper optimizations which can be used for the training of the network. The main purpose of this work is to offer a simple and unified methodology for defining such optimization problems with guarantees that the solution is indeed the desired function. Our results are extended to cover estimates for likelihood ratios of conditional densities and estimates for statistics encountered in local approaches.

연구 동기 및 목표

• 고전적 우도 비율 추정의 파arametric 밀도 가정을 회피하는 데이터 기반 대체 방법을 개발하기 위해.
• 탐지 이론에서 사용되는 우도 비율, 로그 우도 비율, 기타 통계량의 추정을 위한 신경망 학습을 통합하기 위해.
• 최적화 문제의 신경망 해가 진정으로 원하는 함수(예: 우도 비율 또는 그 변환)로 수렴하도록 보장하기 위해.
• 우도 비율 대신 로그 우도 비율을 직접 추정하여 순차적 변화 탐지 및 분류 성능을 향상시키기 위해.
• 기존 방법으로는 강제하기 어려운 비음수 우도 비율 추정 문제를 해결하기 위해.

제안 방법

• 목적 함수를 설계하여 최적 해가 원하는 우도 비율의 변환 형태가 되도록 하는 일반적인 최적화 문제를 제안한다.
• 귀무 밀도 하에서의 기대값을 포함하는 손실 함수를 사용하며, 함수 ϕ(u)와 ψ(u)를 선택하여 해가 목표 함수(예: 로그 우도 비율)가 되도록 강제한다.
• 안정적인 학습과 올바른 함수 형태 학습을 보장하기 위해 최적화 과정에서 지수 손실을 적용한다.
• 두 개의 별도된 신경망을 사용한다: 하나는 일阶 로그 우도 비율 추정을 위해, 另 하나는 마르코프 모델에서 이阶 조건부 로그 우도 비율 추정을 위해.
• 고정된 하이퍼파라미터(스텝 사이즈 μ=2×10⁻⁴, 스무딩 λ=0.99)를 사용하여 10,000 반복 동안 확률적 경사 하강법으로 네트워크를 학습시킨다.
• 합성 데이터를 사용하여 추정된 로그 우도 비율 기반의 근사 CUSUM 통계량과 정확한 CUSUM을 비교함으로써 접근법을 검증한다.

실험 결과

연구 질문

• RQ1 표본에서 개별 밀도를 추정하지 않고도 신경망을 학습시켜 로그 우도 비율을 직접 추정할 수 있는가?
• RQ2 직접 추정한 로그 우도 비율이 탐지 작업에서 전통적 우도 비율 추정보다 성능이 뛰어나지 않는가?
• RQ3 학습 샘플 수가 순차적 변화 탐지에서 추정된 로그 우도 비율 성능에 어떤 영향을 미치는가?
• RQ4 제안된 최적화 프레임워크는 신경망 해가 진정한 우도 비율 함수로 수렴하도록 보장할 수 있는가?
• RQ5 훈련 데이터에서 희귀 사건의 영향은 장기 탐지에서 추정된 로그 우도 비율의 강건성에 어떤 영향을 미치는가?

주요 결과

• 각 분포당 2,500개의 학습 샘플을 사용할 경우, 신경망 기반 근사 CUSUM이 알려진 밀도를 사용한 정확한 CUSUM과 거의 구분되지 않는 탐지 성능을 달성한다.
• 희귀 사건의 표현이 부족한 500개의 학습 샘플에서는 성능이 심각하게 떨어지며, 이는 장기적인 가짜 경고 기간 동안 테스트 시 희귀 사건의 중요성이 반영되지 않기 때문이다.
• 우도 비율 대신 로그 우도 비율을 추정함으로써 탐지 작업에서 눈에 띄는 성능 향상이 이루어진다.
• 제안된 최적화 프레임워크는 신경망 해가 원하는 함수로 수렴하도록 보장하여 추정에 이론적 보장을 제공한다.
• 이 방법은 자연스럽게 비음수 우도 비율 추정을 강제하며, 이는 기존의 밀도 비율 추정 기법으로는 어렵게 달성할 수 있는 성질이다.
• 500개에서 2,500개의 샘플로 증가할 때 성능 향상은 최적화 실패 때문이 아니라 희귀 사건의 더 나은 커버리지 덕분이며, 이는 훈련 시 데이터 다양성의 중요성을 강조한다.