[论文解读] A Framework for Characterising the Value of Information in Hidden Markov Models

Zijing Wang, Mihai-Alin Badiu+1 more|arXiv (Cornell University)|Feb 17, 2021

Age of Information Optimization被引用 5

一句话总结

本文提出了一种新颖的信息论框架，用于量化隐马尔可夫模型（HMM）中信息的价值（VoI），将VoI定义为当前隐状态与过去噪声观测之间的互信息。该框架推导出噪声奥恩斯坦-乌伦贝克过程的闭式VoI表达式，分析了在不同噪声环境下采样策略的影响，并在采样速率约束下识别出最优采样策略，展示了该框架在及时状态更新系统中的实用性。

ABSTRACT

In this paper, a general framework is formalised to characterise the value of information (VoI) in hidden Markov models. Specifically, the VoI is defined as the mutual information between the current, unobserved status at the source and a sequence of observed measurements at the receiver, which can be interpreted as the reduction in the uncertainty of the current status given that we have noisy past observations of a hidden Markov process. We explore the VoI in the context of the noisy Ornstein-Uhlenbeck process and derive its closed-form expressions. Moreover, we investigate the effect of different sampling policies on VoI, deriving simplified expressions in different noise regimes and analysing statistical properties of the VoI in the worst case. We also study the optimal sampling policy to maximise the average information value under the sampling rate constraint. In simulations, the validity of theoretical results is verified, and the performance of VoI in Markov and hidden Markov models is also analysed. Numerical results further illustrate that the proposed VoI framework can support timely transmission in status update systems, and it can also capture the correlation properties of the underlying random process and the noise in the transmission environment.

研究动机与目标

• 为形式化表征隐马尔可夫模型（HMM）中信息价值（VoI）的一般框架，超越传统的“信息年龄”（AoI）度量。
• 解决AoI在捕捉因过程相关性和噪声导致的信息质量退化方面的局限性，特别是在旧数据仍具价值的情况下。
• 为噪声奥恩斯坦-乌伦贝克过程（一种关键的连续状态HMM）推导出VoI的闭式表达式。
• 研究不同采样策略对VoI的影响，包括在最坏噪声环境下的性能表现。
• 在采样速率约束下，识别出能最大化平均VoI的最优采样策略。

提出的方法

• VoI被正式定义为HMM中当前未观测状态与过去一系列噪声观测之间的互信息。
• 该框架应用于噪声奥恩斯坦-乌伦贝克过程，利用状态的联合高斯分布特性，通过多元正态分布的性质实现VoI的解析推导。
• 利用三对角矩阵和循环矩阵的矩阵行列式恒等式，推导出VoI的闭式表达式，尤其利用了精度矩阵及其逆矩阵的结构特性。
• 分析包括在高噪声和低噪声环境下的VoI表达式简化，实现渐近性能评估。
• 通过将问题建模为在采样间隔上的约束优化问题，推导出最优采样策略，以在速率约束下最大化平均VoI。
• 通过仿真对数值结果进行验证，比较了马尔可夫模型与隐马尔可夫模型中的VoI性能，证实了理论预测的准确性。

实验结果

研究问题

• RQ1 如何在超越信息年龄度量的前提下，正式表征隐马尔可夫模型中信息的价值？
• RQ2 在噪声奥恩斯坦-乌伦贝克过程中，可以推导出哪些VoI的闭式表达式？
• RQ3 不同采样策略如何影响信息价值，特别是在不同噪声条件下的表现？
• RQ4 在不同采样策略下，VoI的最坏统计行为如何？
• RQ5 在给定采样速率约束下，能够最大化平均VoI的最优采样策略是什么？

主要发现

• 通过结构化精度矩阵的矩阵行列式恒等式，推导出噪声奥恩斯坦-乌伦贝克过程中VoI的闭式表达式。
• VoI表达式依赖于信噪比和过程的相关性结构，在高噪声和低噪声环境下会呈现简化形式。
• 分析了VoI在最坏情况下的统计特性，表明在最优采样下对噪声变化具有鲁棒性。
• 通过解析方法推导出在速率约束下最大化平均VoI的最优采样策略，表明采样间隔应根据过程相关性和噪声水平进行自适应调整。
• 仿真结果验证了理论VoI表达式，并表明所提出的框架能有效捕捉时间相关性和传输噪声的影响。
• 该框架通过提供比AoI更细致的度量，支持状态更新系统中的及时传输，尤其适用于缓慢变化的过程。