[论文解读] The impulse cutoff an entropy functional measure on trajectories of Markov diffusion process integrating in information path functional

Vladimir S. Lerner|arXiv (Cornell University)|Apr 24, 2012

Fault Detection and Control Systems参考文献 29被引用 3

一句话总结

该论文通过将熵泛函的减少建模为离散脉冲截断，提出了一种新颖的框架，用于测量马尔可夫扩散过程中信息的生成，该方法将随机轨迹的熵转化为量化信息比特。其核心贡献是信息路径泛函（IPF），该泛函将这些熵截断整合为一个有限的、非加性的信息度量，能够捕捉隐藏的过程相关性，并通过极大极小-极小极大原理实现熵到信息的最优转换。

ABSTRACT

The impulses, cutting entropy functional (EF) measure on trajectories Markov diffusion process, integrate information path functional (IPF) composing discrete information Bits extracted from observing random process. Each cut brings memory of the cutting entropy, which provides both reduction of the process entropy and discrete unit of the cutting entropy a Bit. Consequently, information is memorized entropy cutting in random observations which process interactions. The origin of information associates with anatomy creation of impulse enables both cut entropy and stipulate random process generating information under the cut. Memory of the impulse cutting time interval freezes the observing events dynamics in information processes. Diffusion process additive functional defines EF reducing it to a regular integral functional. Compared to Shannon entropy measure of random state, cutting process on separated states decreases quantity information concealed in the states correlation holding hidden process information. Infinite dimensional process cutoffs integrate finite information in IPF whose information approaches EF restricting process maximal information. Within the impulse reversible microprocess, conjugated entropy increments are entangling up to the cutoff converting entropy in irreversible information. Extracting maximum of minimal impulse information and transferring minimal entropy between impulses implement maxmin-minimax principle of optimal conversion process entropy to information. Macroprocess extremals integrate entropy of microprocess and cutoff information of impulses in the IPF information physical process. IPF measures Feller kernel information. Estimation extracting information confirms nonadditivity of EF measured process increments.

研究动机与目标

• 通过基于脉冲的截断，将扩散过程中连续熵的形式化转化为离散、可度量的信息单元。
• 开发一种非加性信息度量，以捕捉标准香农熵所无法体现的随机轨迹中的隐藏相关性。
• 建立一个物理与数学框架，将通过脉冲实现的熵减少与不可逆的信息形成相联系。
• 通过宏观过程中极大极小-极小极大策略，推导熵与信息之间最优转换的原理。
• 通过信息路径泛函（IPF）将微观过程的共轭熵增量整合到宏观过程的极值中。

提出的方法

• 使用可加泛函对马尔可夫扩散过程进行建模，将熵泛函（EF）简化为标准积分形式。
• 引入“脉冲截断”，对熵的减少进行离散化，每个截断对应一个信息比特，并冻结过程的动态记忆。
• 将信息路径泛函（IPF）定义为熵截断的累积度量，整合来自无限维过程轨迹的有限信息。
• 应用极大极小-极小极大原理，以优化脉冲区间之间的熵到信息的转换。
• 使用费勒核估计方法测量IPF的信息含量，并验证EF增量的非加性。
• 分析可逆微观过程中共轭熵增量在截断后变为不可逆，从而形成信息的机制。

实验结果

研究问题

• RQ1 如何系统地将连续扩散过程中的熵转化为离散、可度量的信息单元？
• RQ2 何种数学结构能够实现多个熵截断向有限、非加性信息度量的整合？
• RQ3 IPF如何捕捉标准熵度量所遗漏的随机轨迹中的隐藏相关性？
• RQ4 何种原理控制此类系统中熵到信息的最优转换？
• RQ5 脉冲截断如何在随机过程中诱导不可逆性与记忆？

主要发现

• 脉冲截断将连续熵转化为离散信息比特，每个截断均保留熵减少的记忆。
• 信息路径泛函（IPF）整合了来自无限维扩散轨迹的有限信息，有效限制了过程最大信息量。
• 通过过程增量的估计，确认了熵泛函（EF）的非加性，表明信息在区间间并非简单叠加。
• 可逆微观过程中的共轭熵增量在截断后变为不可逆，构成信息生成的基础。
• 极大极小-极小极大原理通过提取最大最小脉冲信息并最小化脉冲间熵传递，实现了熵到信息的最优转换。
• 宏观过程的极值作为微观过程熵与脉冲截断信息的积分而出现，形成由IPF所支配的物理信息过程。