[論文レビュー] A Notion of Entropy for Stochastic Processes on Marked Rooted Graphs

Payam Delgosha, Venkat Anantharam|arXiv (Cornell University)|Aug 2, 2019

Markov Chains and Monte Carlo Methods参考文献 7被引用数 6

ひとこと要約

本稿は、局所弱収束の枠組みを用いて、頂点および辺のマークをもつマーク付き根付きグラフ上の定常確率過程のための新しいエントロピーの概念を導入する。これはボルデナーヴおよびカプトのエントロピーを頂点および辺のマークを含むグラフへ一般化し、局所的弱収束、ユニモジュラー・ギャルトン＝ワトソン木、および極限におけるソフィック性を通じて、グラフ構造、過程の定常性、およびエントロピーの間の関係を確立する。

ABSTRACT

In this document, we introduce a notion of entropy for stochastic processes on marked rooted graphs. For this, we employ the framework of local weak limit theory for sparse marked graphs, also known as the objective method, due to Benjamini, Schramm, Aldous, Steele and Lyons. Our contribution is a generalization of the notion of entropy introduced by Bordenave and Caputo to graphs which carry marks on their vertices and edges. The theory of time series is the engine driving an enormous range of applications in areas such as control theory, communications, information theory and signal processing. It is to be expected that a theory of stationary stochastic processes indexed by combinatorial structures, in particular graphs, would eventually have a similarly wide-ranging impact.

研究の動機と目的

• 単純なグラフからマーク付き根付きグラフ（頂点および辺のマークを含む）への確率過程のエントロピーの概念を拡張すること。
• スパarsely、局所的に有限なマーク付きグラフにインデックス付けされた定常確率過程におけるエントロピーの理論的枠組みを構築すること。
• エントロピー、局所的弱収束、およびユニモジュラー・ギャルトン＝ワトソン過程のソフィック性の間の関係を確立すること。
• ボルデナーヴおよびカプトのエントロピー構成を、組合せ的および測度論的アプローチにより、辺および頂点のマークを含む形に一般化すること。

提案手法

• 局所的弱収束理論（目的法）を用いて、マーク付きグラフにおける根付き近傍の極限分布に基づきエントロピーを定義する。
• 与えられた頂点および辺のマークの個数を持つマーク付きグラフの数の漸近的対数的成長率を通じてエントロピーを定義する。
• スターリングの近似および組合せ的数え上げを用いて、マーク分布の周波数に基づいたエントロピーの式を導出する。
• 大規模なランダムなマーク付きグラフの局所的構造を表すために、ユニモジュラー・ギャルトン＝ワトソン木（UGWT）を導入する。
• 断片化された過程の列に対する対角線的補完法を用いて、極限のユニモジュラー測度のソフィック性を確立する。
• Lévy–Prokhorov距離を用いて、根付き近傍の経験的分布と極限分布を比較する。

実験結果

リサーチクエスチョン

• RQ1 頂点および辺のマークをもつマーク付き根付きグラフ上の定常確率過程のエントロピーは、どのように定義できるか？
• RQ2 所定の頂点および辺のマークの個数を持つマーク付きグラフの数の漸近的挙動は何か？
• RQ3 マーク付きグラフ列の局所的弱収束は、関連する確率過程のエントロピーとどのように関係するか？
• RQ4 マーク付きグラフ列の極限ユニモジュラー測度がソフィックであるための条件は何か？
• RQ5 マーク付きグラフ過程のエントロピーは、その局所的近傍分布のエントロピーで表現可能か？

主な発見

• マーク付き根付きグラフ上の定常確率過程のエントロピーは、所与の頂点および辺のマークの個数を持つマーク付きグラフの数の対数的成長率と漸近的に同値である。
• エントロピーの式は $ nH(Q) + \norm{\bm{m}^{(n)}}_1 /\log n + n\textstyle\bigsum_{x,x'} s(d_{x,x'}) + o(n) $ として得られ、ここで $ H(Q) $ はマーク分布のシャノンエントロピーであり、$ s(d_{x,x'}) $ は辺マーク周波数の寄与を表す。
• 基礎となる分布 $ P $ が有界な台を持つ場合、極限のユニモジュラー・ギャルトン＝ワトソン測度 $ \mu = \mathsf{UGWT}_h(P) $ はソフィックであり、一般の場合への拡張は対角線的補完法により成立する。
• エントロピー構成はボルデナーヴおよびカプトの結果をマーク付きグラフへ一般化し、主な差異は近傍同型類における頂点および辺のマークの組み込みにある。
• Lévy–Prokhorov距離における近傍分布の収束により、局所的弱収束下でエントロピーが極限においても適切に定義可能であることが保証される。
• 本手法により、グローバルな対称性がなくても、マーク付きグラフ上の過程のエントロピーが局所的構造およびマーク周波数によって決定されることを示した。