[論文レビュー] Information topology identifies emergent model classes

Mark K. Transtrum, Gus L. W. Hart+1 more|arXiv (Cornell University)|Sep 22, 2014

Topological and Geometric Data Analysis被引用数 16

ひとこと要約

本稿では、統計的モデルの位相的解析を用いて、支配的な行動モードを捉える物理系の簡略化された表現（「顕在的モデルクラス」）を同定する、Information Topology（情報トポロジー）という枠組みを提案する。観測がモデル多様体の幾何学的・位相的性質に与える影響、特に構造的同定可能性とハッセ図を介して分析することで、摂動に対する安定性に基づき、パラメータを関連するか無関係かに分類する。本手法により、複雑系から有効モデルを体系的に導出する方法が提供される。

ABSTRACT

We develop a language for describing the relationship among observations, mathematical models, and the underlying principles from which they are derived. Using Information Geometry, we consider geometric properties of statistical models for different observations. As observations are varied, the model manifold may be stretched, compressed, or even collapsed. Observations that preserve the structural identifiability of the parameters also preserve certain topological features (such as edges and corners) that characterize the model's underlying physical principles. We introduce Information Topology in analogy with information geometry as characterizing the "abstract model" of which statistical models are realizations. Observations that change the topology, i.e., "manifold collapse," require a modification of the abstract model in order to construct identifiable statistical models. Often, the essential topological feature is a hierarchical structure of boundaries (faces, edges, corners, etc.) which we represent as a hierarchical graph known as a Hasse diagram. Low-dimensional elements of this diagram are simple models that describe the dominant behavioral modes, what we call emergent model classes. Observations that preserve the Hasse diagram are diffeomorphically related and form a group, the collection of which form a partially ordered set. All possible observations have a semi-group structure. For hierarchical models, we consider how the topology of simple models is embedded in that of larger models. When emergent model classes are unstable to the introduction of new parameters, we classify the new parameters as relevant. Conversely, the emergent model classes are stable to the introduction of irrelevant parameters. In this way, information topology provides a general language for exploring representations of physical systems and their relationships to observations.

研究の動機と目的

• 観測、数学的モデル、およびその背後にある物理的原理を結びつける形式的言語の構築を目的とする。
• 観測条件の変化にかかわらず予測可能で解釈可能な適切なモデル表現を同定するという課題に対処すること。
• 観測の変化に伴いモデル多様体がどのように変化するか、特にエッジやコーナーといった位相的特徴を通じてその変化を特徴づけること。
• パラメータのモデル安定性および顕在的行動への影響に基づき、関連または無関係であるかを分類すること。
• 位相的不変量を用いて、複雑系から有効モデルを体系的に導出するフレームワークを提供すること。

提案手法

• 物理的原理とパラメータ Θ によって定義される抽象的モデル（Y）と、特定の実験的条件 X の下での Y の実現である統計的モデル（y）を区別する。
• 情報幾何学を用い、統計的推論と逆関数 y⁻¹ を介して抽象的モデルのパラメータ空間に計量を導入する。
• 観測の変化に伴うモデル多様体の幾何的性質（例：曲率、距離）の変化を分析し、構造的変化を検出する。
• モデル多様体に現れるエッジやコーナーといった位相的特徴を、背後にある物理的原理の指標とみなす。
• ハッセ図を用いて、パラメータ間の階層的関係を表現し、低次元のノードが顕在的モデルクラスに対応するようにする。
• 多様体境界近似を用いて、ハッセ図の低次元ノードから有効モデルを構築する。

実験結果

リサーチクエスチョン

• RQ1 異なる観測が統計的モデルの幾何学的・位相的構造にどのように影響を与えるか？
• RQ2 モデル多様体に現れるどの位相的特徴が、根本的な物理的原理および顕在的行動に対応するか？
• RQ3 パラメータのモデル安定性への影響に基づき、関連または無関係であるかを分類する方法は何か？
• RQ4 顕在的モデルクラスは、モデル多様体の階層的構造によってどのように生じるか？
• RQ5 ハッセ図のような位相的不変量をどのように用いて、体系的に有効モデルを導出できるか？

主な発見

• パラメータの構造的同定可能性を保つ観測は、背後にある物理的原理を反映するエッジやコーナーといった重要な位相的特徴をも保持する。
• モデルのパラメータ空間のハッセ図は、顕在的モデルクラスの階層的構造を明らかにし、低次元のノードが支配的な行動モードを表す。
• 観測が多様体の位相を変化させると、モデル多様体が「多様体崩壊」を経験することがあり、これに伴い抽象的モデルの再考が求められる。
• 導入された際に顕在的モデルクラスの安定性を崩すパラメータは関連と分類され、安定性を保つパラメータは無関係と分類される。
• 本フレームワークは、ハッセ図のノードに基づく多様体境界近似法を用いて、近似有効モデルを体系的に構築する手法を提供する。
• パラメータの位相的分類は、レノルマリゼーション群の概念と類似しており、スケール不変系にとどまらず、安定性および関連性分析の応用範囲を広げられる。