[论文解读] On the Stochastic Stability of Deep Markov Models

Ján Drgoňa, Sayak Mukherjee+3 more|arXiv (Cornell University)|Nov 8, 2021

Neural Networks and Applications被引用 3

一句话总结

本文通过将深度神经网络（DNN）权重的谱特性与随机稳定性相联系，提出了一种深度马尔可夫模型（DMM）的稳定性分析框架。该框架利用算子范数和巴拿赫不动点理论，建立了均方稳定性的充分条件，并提出了正则化方法以在训练过程中强制实现稳定性，通过在激活函数和权重约束上的数值实验得到验证。

ABSTRACT

Deep Markov models (DMM) are generative models that are scalable and expressive generalization of Markov models for representation, learning, and inference problems. However, the fundamental stochastic stability guarantees of such models have not been thoroughly investigated. In this paper, we provide sufficient conditions of DMM's stochastic stability as defined in the context of dynamical systems and propose a stability analysis method based on the contraction of probabilistic maps modeled by deep neural networks. We make connections between the spectral properties of neural network's weights and different types of used activation functions on the stability and overall dynamic behavior of DMMs with Gaussian distributions. Based on the theory, we propose a few practical methods for designing constrained DMMs with guaranteed stability. We empirically substantiate our theoretical results via intuitive numerical experiments using the proposed stability constraints.

研究动机与目标

• 为解决广泛使用但缺乏形式化鲁棒性分析的深度马尔可夫模型（DMM）中理论稳定性保证的缺失问题。
• 通过分析建模均值和方差转移的DNN的算子范数，建立DMM随机稳定性的充分条件。
• 开发实用的正则化技术，通过在网络权重和偏置上的范数约束，在DMM训练过程中强制实现稳定性。
• 通过数值案例研究，实证探究激活函数和权重正则化对DMM稳定性的影响。

提出的方法

• 使用DNN权重矩阵的算子范数来量化概率转移映射中的压缩性，将DNN的确定性稳定性与DMM的随机稳定性相联系。
• 应用巴拿赫不动点定理，基于DNN转移矩阵的谱范数推导出均方稳定性的充分条件。
• 提出两种正则化惩罚：一种强制均值转移矩阵的谱范数小于1，另一种通过推导的不等式约束平衡状态的范数。
• 采用基于SVD和盖尔范德圆盘的权重正则化方法，以控制特征值分布并提升稳定性。
• 通过随机轨迹模拟分析不同激活函数（ReLU、SELU、Softplus、tanh）下DMM的相空间行为。
• 利用三角不等式和仿射动力学的算子范数界，推导出平衡状态范数的上下界。

实验结果

研究问题

• RQ1 DMM中DNN的权重和激活函数需满足何种条件，才能确保所生成马尔可夫过程的随机稳定性？
• RQ2 如何利用DNN的谱特性，正式保证DMM中的均方稳定性？
• RQ3 在实践中，哪些激活函数和权重正则化方法能带来更稳定的DMM动力学？
• RQ4 能否在DMM训练目标中引入基于范数的正则化，以实现可证明的稳定性？
• RQ5 不同激活函数如何影响DMM状态轨迹的有界性和收敛性？

主要发现

• 基于DNN转移矩阵的谱范数小于1，推导出DMM均方稳定性的充分条件，确保收敛至稳定平衡点。
• 利用三角不等式和算子范数不等式，推导出平衡状态范数的理论界，提供了状态幅度的上下限。
• ReLU和tanh激活函数表现出更稳定的特性，因其具有压缩性（利普希茨常数≤1），而SELU和Softplus即使在权重具有压缩性时也可能引发不稳定。
• 基于SVD和盖尔范德圆盘的权重正则化能有效提升稳定性，tanh激活函数表现出最稳健且有界的轨迹行为。
• 数值实验表明，对DNN权重施加谱范数约束，可在不同激活函数下实现有界且收敛的状态轨迹。
• 所提出的正则化惩罚（47）和（48）可集成至DMM训练目标中，以强制实现稳定性与平衡点约束。