[论文解读] The Ordered Matrix Dirichlet for State-Space Models

Niklas Stoehr, Benjamin J. Radford+2 more|arXiv (Cornell University)|Dec 8, 2022

Opinion Dynamics and Social Influence被引用 5

一句话总结

本文提出了有序矩阵狄利克雷（OMD）先验用于状态空间模型，通过在观测矩阵和转移矩阵中强制实现随机有序性，使更高潜伏状态产生更具对抗性的行为。OMD 通过杆分解构造使概率质量沿行向右移动，从而实现可解释的、有序的潜伏状态，反映国际关系等现实世界中的有序结构（如合作到对抗的动态演变），在可解释性方面优于标准狄利克雷先验，且预测性能具有竞争力。

ABSTRACT

Many dynamical systems in the real world are naturally described by latent states with intrinsic orderings, such as "ally", "neutral", and "enemy" relationships in international relations. These latent states manifest through countries' cooperative versus conflictual interactions over time. State-space models (SSMs) explicitly relate the dynamics of observed measurements to transitions in latent states. For discrete data, SSMs commonly do so through a state-to-action emission matrix and a state-to-state transition matrix. This paper introduces the Ordered Matrix Dirichlet (OMD) as a prior distribution over ordered stochastic matrices wherein the discrete distribution in the kth row stochastically dominates the (k+1)th, such that probability mass is shifted to the right when moving down rows. We illustrate the OMD prior within two SSMs: a hidden Markov model, and a novel dynamic Poisson Tucker decomposition model tailored to international relations data. We find that models built on the OMD recover interpretable ordered latent structure without forfeiting predictive performance. We suggest future applications to other domains where models with stochastic matrices are popular (e.g., topic modeling), and publish user-friendly code.

研究动机与目标

• 解决标准状态空间模型中潜伏状态缺乏内在有序性的问题，此类模型常受标签切换困扰，且无法反映现实世界中的有序动态。
• 开发一种先验分布，强制在随机矩阵的行之间实现随机支配，确保有序的转移和观测。
• 证明基于 OMD 的模型可在不牺牲真实世界数据预测性能的前提下，恢复可解释的、有序的潜伏结构。
• 将 OMD 的适用范围扩展至国际关系之外的其他领域，如主题建模和渐变过程的时间序列。
• 在 Pyro 等概率编程框架中提供用户友好、模块化的实现，以促进广泛应用。

提出的方法

• 通过杆分解过程定义 OMD，对服从贝塔分布的辅助变量进行排序，以在随机矩阵的连续行之间强制实现随机支配。
• 该先验确保第 k 行的累积分布函数（CDF）始终大于或等于第 (k+1) 行，从而在矩阵中诱导概率质量向右移动。
• 将 OMD 作为先验应用于状态空间模型中的观测矩阵和转移矩阵，包括隐马尔可夫模型和动态泊松塔克分解模型。
• 模型采用贝叶斯框架结合变分推断，实现对大规模事件数据的可扩展后验近似，支持高效学习。
• 该方法在 Pyro 中实现，可轻松集成至现有概率编程工作流，且代码修改极少。
• 在具有已知真实有序性的合成数据和来自 ICEWS 数据集的真实国际关系事件数据上对方法进行了验证。

实验结果

研究问题

• RQ1 能否设计一种先验分布，以在状态空间模型的潜伏状态中强制实现内在有序性，从而反映观测行为中的有序结构？
• RQ2 在有序数据上，OMD 先验与标准狄利克雷先验相比，在可解释性和预测性能方面表现如何？
• RQ3 基于 OMD 的模型能否在具有已知有序动态的合成数据中恢复真实的潜伏状态排序？
• RQ4 OMD 先验是否能提升真实世界国际关系事件数据的预测与填补性能？
• RQ5 OMD 能否推广至依赖随机矩阵的其他模型与领域，如主题建模或渐变过渡的时间序列？

主要发现

• 在合成数据上，基于 OMD 的模型在恢复真实潜伏状态排序方面显著优于标准狄利克雷先验，状态序列重建的准确率更高。
• 在真实国际关系数据上，OMD 模型的预测性能与基线模型相当或更优，同时生成更具可解释性的潜伏状态。
• OMD 先验有效防止了标签切换，生成了稳定且有序的潜伏状态，与升级与降级的理论预期一致。
• 采用 OMD 先验的动态泊松塔克分解模型成功捕捉了国家互动模式随时间的渐变，反映了现实世界中的冲突升级过程。
• OMD 已成功应用于其他模型，包括用于全球气温变化的 HMM 和用于词语语义排序的改进型 LDA，证明其广泛适用性。
• 开源代码库支持在 Pyro 中轻松部署基于 OMD 的模型，实现开箱即用，开发成本极低。