[论文解读] Learning with rare data: Using active importance sampling to optimize objectives dominated by rare events

Grant M. Rotskoff, Eric Vanden‐Eijnden|arXiv (Cornell University)|Aug 11, 2020

Markov Chains and Monte Carlo Methods被引用 5

一句话总结

该论文提出了一种新颖的主动重要性采样方法，结合深度神经网络，以优化高维系统中由罕见事件主导的目标。通过重要性采样降低渐近方差，该方法即使在数据稀少的情况下也能准确学习动态跃迁路径，在高维设置中展现出强大的泛化能力和可扩展性。

ABSTRACT

Deep neural networks, when optimized with sufficient data, provide accurate representations of high-dimensional functions; in contrast, function approximation techniques that have predominated in scientific computing do not scale well with dimensionality. As a result, many high-dimensional sampling and approximation problems once thought intractable are being revisited through the lens of machine learning. While the promise of unparalleled accuracy may suggest a renaissance for applications that require parameterizing representations of complex systems, in many applications gathering sufficient data to develop such a representation remains a significant challenge. Here we introduce an approach that combines rare events sampling techniques with neural network optimization to optimize objective functions that are dominated by rare events. We show that importance sampling reduces the asymptotic variance of the solution to a learning problem, suggesting benefits for generalization. We study our algorithm in the context of learning dynamical transition pathways between two states of a system, a problem with applications in statistical physics and implications in machine learning theory. Our numerical experiments demonstrate that we can successfully learn even with the compounding difficulties of high-dimension and rare data.

研究动机与目标

• 解决在数据稀缺且由罕见事件主导的高维系统中学习准确表征的挑战。
• 克服传统科学计算方法在维度增加时难以扩展的局限性。
• 通过重要性采样降低渐近方差，改善在罕见数据上训练的机器学习模型的泛化能力。
• 实现对系统状态之间动态跃迁路径的有效学习，这是统计物理和机器学习理论中的核心问题。
• 开发一种可扩展且数据高效的框架，结合主动采样与深度神经网络优化，用于罕见事件问题。

提出的方法

• 将主动重要性采样与深度神经网络优化相结合，聚焦于罕见但关键的数据区域进行训练。
• 使用重要性采样降低学习目标的渐近方差，从而增强模型泛化能力。
• 将学习目标表述为样本上的加权期望，其中权重来自重要性分布，以突出罕见事件。
• 基于不确定性或对目标的贡献自适应选择样本，提升数据效率。
• 在重要性加权损失函数上使用随机梯度下降优化神经网络。
• 将该框架应用于学习高维动力系统中的跃迁路径，例如统计物理中出现的系统。

实验结果

研究问题

• RQ1 主动重要性采样结合深度学习是否能有效降低高维、罕见事件主导问题中的方差并提升泛化能力？
• RQ2 重要性采样在神经网络优化中如何影响学习目标的渐近方差？
• RQ3 在数据有限的情况下，该方法在多大程度上能准确学习系统状态之间的动态跃迁路径？
• RQ4 数据稀缺性和高维性对标准深度学习与所提方法性能的影响如何？
• RQ5 在罕见事件场景中，主动采样策略相比均匀采样或随机采样在数据效率方面有何提升？

主要发现

• 重要性采样显著降低了学习目标的渐近方差，从而在神经网络训练中提升了泛化能力。
• 所提方法即使在数据稀缺与维度高的复合挑战下，仍能成功学习高维系统中的动态跃迁路径。
• 主动采样通过聚焦于高重要性区域（尤其是对目标至关重要的罕见事件）提升了数据效率。
• 该框架在传统方法无法收敛或需要不切实际数据量的高维问题中表现出可扩展性与鲁棒性。
• 数值实验表明，该方法在罕见事件场景下优于标准深度学习方法，仅用极少数据即可实现准确表征。
• 将重要性采样与神经网络结合，能够可靠地近似由罕见事件主导的复杂高维函数。