[论文解读] Training Neural Networks for Likelihood/Density Ratio Estimation

George V. Moustakides, Kalliopi Basioti|arXiv (Cornell University)|Nov 1, 2019

Anomaly Detection Techniques and Applications参考文献 19被引用 15

一句话总结

本文提出了一种统一的、基于数据的方法，用于直接从样本中训练神经网络以估计似然比及其变换（如对数似然比），而无需假设参数化密度。通过制定优化问题，确保神经网络解收敛到目标函数，该方法在检测和假设检验中实现了精确估计，仿真结果表明，仅使用2,500个训练样本即可实现接近最优的性能。

ABSTRACT

Various problems in Engineering and Statistics require the computation of the likelihood ratio function of two probability densities. In classical approaches the two densities are assumed known or to belong to some known parametric family. In a data-driven version we replace this requirement with the availability of data sampled from the densities of interest. For most well known problems in Detection and Hypothesis testing we develop solutions by providing neural network based estimates of the likelihood ratio or its transformations. This task necessitates the definition of proper optimizations which can be used for the training of the network. The main purpose of this work is to offer a simple and unified methodology for defining such optimization problems with guarantees that the solution is indeed the desired function. Our results are extended to cover estimates for likelihood ratios of conditional densities and estimates for statistics encountered in local approaches.

研究动机与目标

• 开发一种经典似然比估计的非参数化数据驱动替代方法，避免对参数化密度假设的依赖。
• 统一训练神经网络以估计似然比、对数似然比及其他检测理论中使用的统计量。
• 确保优化问题的神经网络解收敛到真实的目标函数（例如似然比或其变换）。
• 通过直接估计对数似然比而非似然比，提升序列变化检测与分类任务的性能。
• 解决现有方法难以强制实现非负似然比估计的挑战。

提出的方法

• 提出一个通用优化问题，其目标函数设计为使最优解即为似然比的期望变换。
• 使用在原假设密度下取期望的损失函数，通过选择函数ϕ(u)和ψ(u)来强制解为目标函数（例如对数似然比）。
• 在优化中采用指数损失，以实现稳定训练并确保网络学习到正确的函数形式。
• 使用两个独立的神经网络：一个用于估计一阶对数似然比，另一个用于马尔可夫模型中的二阶条件对数似然比。
• 使用固定超参数（学习率μ=2×10⁻⁴，平滑系数λ=0.99）的随机梯度下降法进行10,000轮训练。
• 通过将基于估计对数似然比的近似CUSUM统计量与使用已知密度的精确CUSUM进行比较，验证了方法的有效性。

实验结果

研究问题

• RQ1 是否可以训练神经网络直接从数据中估计对数似然比，而无需先估计各密度？
• RQ2 直接估计对数似然比是否在检测任务中优于传统似然比估计方法？
• RQ3 训练样本数量如何影响序列变化检测中估计对数似然比的性能？
• RQ4 所提出的优化框架能否保证神经网络解收敛到真实的似然比函数？
• RQ5 训练数据中罕见事件对长期检测中估计对数似然比鲁棒性的影响如何？

主要发现

• 当每种分布使用2,500个训练样本时，基于神经网络的近似CUSUM检测性能几乎与使用已知密度的精确CUSUM无异。
• 仅使用500个训练样本时性能显著下降，原因是罕见事件表征不足，而这些事件在长假警报周期测试中至关重要。
• 与估计似然比相比，直接估计对数似然比在检测任务中带来了明显的性能提升。
• 所提出的优化框架确保神经网络解收敛到目标函数，为估计提供了理论保证。
• 该方法自然地强制实现非负的似然比估计，而这一特性在标准密度比估计技术中难以实现。
• 从500到2,500个样本的性能提升并非源于优化失败，而是由于对罕见事件的覆盖更充分，凸显了训练数据多样性的关键作用。