[論文レビュー] On the Stochastic Stability of Deep Markov Models

Ján Drgoňa, Sayak Mukherjee+3 more|arXiv (Cornell University)|Nov 8, 2021

Neural Networks and Applications被引用数 3

ひとこと要約

本稿は、深層ニューラルネットワーク（DNN）重みの固有値特性と確率的安定性を結びつけることで、Deep Markov Models（DMMs）の安定性解析フレームワークを提案する。作用素ノルムとバナッハ不動点理論を用いて、平均二乗安定性の十分条件を確立し、訓練中に安定性を強制するための正則化手法を導入。活性関数と重み制約に関する数値実験により検証された。

ABSTRACT

Deep Markov models (DMM) are generative models that are scalable and expressive generalization of Markov models for representation, learning, and inference problems. However, the fundamental stochastic stability guarantees of such models have not been thoroughly investigated. In this paper, we provide sufficient conditions of DMM's stochastic stability as defined in the context of dynamical systems and propose a stability analysis method based on the contraction of probabilistic maps modeled by deep neural networks. We make connections between the spectral properties of neural network's weights and different types of used activation functions on the stability and overall dynamic behavior of DMMs with Gaussian distributions. Based on the theory, we propose a few practical methods for designing constrained DMMs with guaranteed stability. We empirically substantiate our theoretical results via intuitive numerical experiments using the proposed stability constraints.

研究の動機と目的

• 広く用いられているが、形式的なロバストネス解析を欠くDeep Markov Models（DMMs）における理論的安定性保証の欠如に応えること。
• DNNが平均および分散遷移をモデル化する際の作用素ノルムを分析することで、DMMにおける確率的安定性の十分条件を確立すること。
• ネットワーク重みおよびバイアスのノルム制約を用いて、DMM学習中に安定性を強制する実用的な正則化技術を開発すること。
• 数値ケーススタディを用いて、活性関数と重み正則化のDMM安定性への影響を実証的に調査すること。

提案手法

• DNN重み行列の作用素ノルムを用いて、確率的遷移写像における収縮を定量化し、決定的DNN安定性と確率的DMM安定性を結びつける。
• バナッハ不動点定理を適用し、DNNの遷移行列のスペクトルノルムに基づいて、平均二乗安定性の十分条件を導出する。
• 2つの正則化ペナルティを提案：1つは平均遷移行列のスペクトルノルムが1未満であることを強制するもの、もう1つは導出された不等式を用いて均衡状態のノルムを制限するもの。
• SVDに基づくおよびゲルシュゴリン円板に基づく重み正則化を用いて、固有値分布を制御し、安定性を向上させる。
• 確率的軌道シミュレーションを用いて、異なる活性化関数（ReLU、SELU、Softplus、tanh）におけるDMMの位相空間挙動を分析する。
• 三角不等式およびアフィンダイナミクスの作用素ノルムの境界を用いて、均衡状態ノルムの上界および下界を導出する。

実験結果

リサーチクエスチョン

• RQ1 DMMにおけるDNNの重みおよび活性化関数にどのような条件が課されると、その結果として得られるマルコフ過程の確率的安定性が保証されるか？
• RQ2 DNNのスペクトル特性をどのように用いることで、DMMにおける平均二乗安定性を形式的に保証できるか？
• RQ3 実際のDMMダイナミクスにおいて、どの活性化関数と重み正則化がより安定性をもたらすか？
• RQ4 DMM学習目的関数におけるノルムに基づく正則化は、保証可能な安定性を強制できるか？
• RQ5 異なる活性化関数は、DMM状態軌道の有界性および収束性にどのように影響するか？

主な発見

• DNNの遷移行列のスペクトルノルムが1未満であるという条件下で、DMMの平均二乗安定性の十分条件が導出され、安定な均衡への収束が保証される。
• 三角不等式および作用素ノルムの不等式を用いて、均衡状態ノルムの理論的境界が導出され、状態の大きさの上界および下界が得られる。
• ReLUおよびtanh活性化関数は、リプシッツ定数≤1の収縮的性質により、より安定した挙動を示すが、SELUおよびSoftplusは収縮的重みであっても不安定を引き起こす可能性がある。
• SVDに基づくおよびゲルシュゴリンに基づく重み正則化は、安定性の向上に効果的であり、特にtanhは最も頑健で有界な軌道挙動を示す。
• 数値実験により、DNN重みのスペクトルノルム制約を強制することで、異なる活性化関数においても有界で収束する状態軌道が得られることを確認した。
• 提案された正則化ペナルティ（47）および（48）は、DMM学習目的関数に統合可能であり、安定性および均衡境界の強制に有効である。