[论文解读] Information topology identifies emergent model classes

Mark K. Transtrum, Gus L. W. Hart+1 more|arXiv (Cornell University)|Sep 22, 2014

Topological and Geometric Data Analysis被引用 16

一句话总结

本文提出了信息拓扑（Information Topology）框架，通过统计模型的拓扑分析识别出涌现的模型类别——即简化表示物理系统的模型，能够捕捉主导的行为模式。通过分析观测如何影响模型流形的几何与拓扑结构，特别是通过结构可辨识性与哈斯图（Hasse diagrams），该方法根据参数对扰动的稳定性，将参数分类为相关或无关，从而为从复杂系统中系统性地推导有效模型提供了方法。

ABSTRACT

We develop a language for describing the relationship among observations, mathematical models, and the underlying principles from which they are derived. Using Information Geometry, we consider geometric properties of statistical models for different observations. As observations are varied, the model manifold may be stretched, compressed, or even collapsed. Observations that preserve the structural identifiability of the parameters also preserve certain topological features (such as edges and corners) that characterize the model's underlying physical principles. We introduce Information Topology in analogy with information geometry as characterizing the "abstract model" of which statistical models are realizations. Observations that change the topology, i.e., "manifold collapse," require a modification of the abstract model in order to construct identifiable statistical models. Often, the essential topological feature is a hierarchical structure of boundaries (faces, edges, corners, etc.) which we represent as a hierarchical graph known as a Hasse diagram. Low-dimensional elements of this diagram are simple models that describe the dominant behavioral modes, what we call emergent model classes. Observations that preserve the Hasse diagram are diffeomorphically related and form a group, the collection of which form a partially ordered set. All possible observations have a semi-group structure. For hierarchical models, we consider how the topology of simple models is embedded in that of larger models. When emergent model classes are unstable to the introduction of new parameters, we classify the new parameters as relevant. Conversely, the emergent model classes are stable to the introduction of irrelevant parameters. In this way, information topology provides a general language for exploring representations of physical systems and their relationships to observations.

研究动机与目标

• 开发一种正式语言，连接观测、数学模型与潜在的物理原理。
• 解决在不同观测条件下识别既具预测性又可解释的模型表征的挑战。
• 表征模型流形在观测作用下的变化，特别是通过拓扑特征如边与角。
• 根据参数对模型稳定性和涌现行为的影响，对参数进行相关或无关的分类。
• 提供一种系统性框架，利用拓扑不变量从复杂系统中推导有效模型。

提出的方法

• 区分由物理原理和参数 Θ 定义的抽象模型（Y）与在特定实验条件 X 下 Y 的实现——统计模型（y）。
• 应用信息几何，通过统计推断与反函数 y⁻¹，在抽象模型的参数空间上诱导出度量。
• 分析在不同观测下模型流形的几何属性（如曲率、距离）的变化，以检测结构变化。
• 将模型流形中的拓扑特征（如边与角）识别为潜在物理原理的指标。
• 使用哈斯图表示模型参数之间的层次关系，其中低维节点对应于涌现的模型类别。
• 利用流形边界近似方法，基于哈斯图中的低维节点构建有效模型。

实验结果

研究问题

• RQ1 不同观测如何影响统计模型的几何与拓扑结构？
• RQ2 模型流形中的哪些拓扑特征对应于基本物理原理与涌现行为？
• RQ3 如何根据参数对模型稳定性的影响，对参数进行相关或无关的分类？
• RQ4 涌现的模型类别如何从模型流形的层次结构中产生？
• RQ5 如何利用哈斯图等拓扑不变量系统性地推导有效模型？

主要发现

• 保持参数结构可辨识性的观测，同样保持了关键的拓扑特征（如边与角），这些特征反映了底层物理原理。
• 模型参数空间的哈斯图揭示了涌现模型类别的层次结构，其中低维节点代表主导的行为模式。
• 当观测改变拓扑结构时，模型流形可能发生‘流形坍缩’，此时需对抽象模型进行修正。
• 引入后会破坏涌现模型类稳定性的参数被归类为相关参数，而能保持稳定性的参数则被归类为无关参数。
• 该框架提供了一种系统性方法，基于哈斯图节点使用流形边界近似法构建近似有效模型。
• 参数的拓扑分类与重整化群概念相呼应，使稳定性和相关性分析可超越尺度不变系统而广泛适用。