[论文解读] Hidden information and regularities of information dynamics III

Vladimir S. Lerner|arXiv (Cornell University)|Aug 15, 2012

Opinion Dynamics and Social Influence被引用 6

一句话总结

本文提出一种结合微分熵泛函（EF）与信息路径泛函（IPF）的极小极大变分原理（VP），用于建模随机过程中的隐性信息提取。通过施加脉冲控制以切断信息流，该框架揭示了多维随机场中的潜在相关性，从而实现基于合作信息几何与进化约束下结构优化的分层信息网络（IN）构建，以建模随时间演化的观察者智能。

ABSTRACT

This presentation's Part 3 studies the evolutionary information processes and regularities of evolution dynamics, evaluated by an entropy functional (EF) of a random field (modeled by a diffusion information process) and an informational path functional (IPF) on trajectories of the related dynamic process (Lerner 2012). The integral information measure on the process' trajectories accumulates and encodes inner connections and dependencies between the information states, and contains more information than a sum of Shannon's entropies, which measures and encodes each process's states separately. Cutting off the process' measured information under action of impulse controls (Lerner 2012a), extracts and reveals hidden information, covering the states' correlations in a multi-dimensional random process, and implements the EF-IPF minimax variation principle (VP). The approach models an information observer (Lerner 2012b)-as an extractor of such information, which is able to convert the collected information of the random process in the information dynamic process and organize it in the hierarchical information network (IN), Part2 (Lerner, 2012c). The IN's highest level of the structural hierarchy, measured by a maximal quantity and quality of the accumulated cooperative information, evaluates the observer's intelligence level, associated with its ability to recognize and build such structure of a meaningful hidden information. The considered evolution of optimal extraction, assembling, cooperation, and organization of this information in the IN, satisfying the VP, creates the phenomena of an evolving observer's intelligence. The requirements of preserving the evolutionary hierarchy impose the restrictions that limit the observer's intelligence level in the IN. The cooperative information geometry, evolving under observations, limits the size and volumes of a particular observer.

研究动机与目标

• 通过熵与路径泛函建模从多维随机过程中提取隐性信息。
• 将信息观察者形式化为动态代理，将其收集的数据组织为分层信息网络（IN）。
• 建立一个极小极大变分原理（VP），以在进化约束下控制最优信息提取与结构组织。
• 通过分层信息网络（IN）最高层级的最大合作信息量来量化观察者智能。
• 探索合作信息动力学对观察者智能在几何与信息层面施加的限制。

提出的方法

• 该框架采用基于扩散的随机场模型来表示信息动态。
• 微分熵泛函（EF）用于量化过程中各信息状态的不确定性。
• 信息路径泛函（IPF）编码轨迹上的依赖关系与相关性，捕捉的信息量超过仅靠香农熵所能表达的内容。
• 施加脉冲控制以截断过程轨迹，揭示隐藏相关性，实现潜在信息的提取。
• 推导出极小极大变分原理（VP），以优化信息累积与IN中结构组织之间的平衡。
• 通过递归组织提取的信息构建分层信息网络（IN），智能程度由IN最高层级的最大合作信息量衡量。

实验结果

研究问题

• RQ1 如何在不依赖单个状态微分熵的前提下，从多维随机过程中提取隐藏相关性？
• RQ2 何种数学原理控制着演化随机系统中信息的最优提取与组织？
• RQ3 观察者智能如何从分层网络结构中信息的合作动力学中涌现？
• RQ4 在信息动力学框架下，哪些约束限制了观察者规模与智能？
• RQ5 极小极大变分原理（VP）如何统一熵与路径泛函以建模信息演化？

主要发现

• 信息路径泛函（IPF）所编码的信息量超过各单个香农熵之和，能够捕捉状态之间的依赖关系。
• 脉冲控制通过截断过程轨迹有效提取隐性信息，揭示潜在相关性。
• 极小极大变分原理（VP）为优化分层信息网络（IN）中的信息提取与结构组织提供了统一框架。
• 观察者智能通过IN最高层级的最大合作信息量来量化，反映其识别与组织有意义结构的能力。
• 合作信息几何对观察者规模与智能施加内在限制，维持进化层级的稳定性。
• 该框架将智能的出现建模为一种动态现象，源于在进化约束下信息的最优合作与组织。