[論文レビュー] Smaller Universes for Uniform Sampling of 0,1-matrices with fixed row and column sums

Annabell Berger, Corrie Jacobien Carstens|arXiv (Cornell University)|Mar 7, 2018

Complex Network Analysis Techniques参考文献 2被引用数 3

ひとこと要約

本稿では、ノードラベルを無視することで、固定行和・列和をもつ0,1行列の均一サンプリングのための射影マルコフ連鎖手法を提案する。これは、グラフの同型類のサンプリングに効果的に応用される。射影連鎖は元の連鎖と比較して、状態空間の縮小と初期分布の改善により、混合時間は常にそれ以上であり、多くの場合に顕著に速くなることが証明される。さらに、ハニカム移動を必要としないラベル付きグラフの効率的サンプリングを可能にする前処理ステップを導入し、スイッチおよびカーブボール連鎖における実用的性能を向上させる。

ABSTRACT

An important problem arising in the study of complex networks, for instance in community detection and motif finding, is the sampling of graphs with fixed degree sequence. The equivalent problem of generating random 0,1 matrices with fixed row and column sums is frequently used as a quantitative tool in ecology. It has however proven very challenging to design sampling algorithms that are both fast and unbiased. This article focusses on Markov chain approaches for sampling, where a close-to-random graph is produced by applying a large number N of small changes to a given graph. Examples are the switch chain and Curveball chain, which are both commonly used by practitioners as they are easy to implement and known to sample unbiased when N is large enough. Within theoretical research, much effort has gone into proving bounds on N. However, existing theoretical bounds are impractically large for most applications while experiments suggest that much fewer steps are needed to obtain a good sample. The contribution of this article is twofold. Firstly it is a step towards better understanding of the discrepancy between experimental observations and theoretically proven bounds. In particular, we argue that while existing Markov chain algorithms run on the set of all labelled graphs with a given degree sequence, node labels are unimportant in practice and are usually ignored in determining experimental bounds. We prove that ignoring node labels corresponds to projecting a Markov chain onto equivalence classes of isomorphic graphs and that the resulting projected Markov chain converges to its stationary distribution at least as fast as the original Markov chain. Often convergence is much faster, as we show in examples, explaining part of the difference between theory and experiments...

研究の動機と目的

• 固定マージンをもつ0,1行列におけるマルコフ連鎖の理論的混合時間の上限と実際の性能の乖離を説明すること。
• ノードラベルを無視するサンプリングの影響を、グラフの同型類への連鎖の射影として形式化すること。
• 射影連鎖が元の連鎖と比較して、状態空間の縮小と初期化の改善により、混合時間が常にそれ以上であることを示すこと。
• スイッチおよびカーブボール連鎖で六角形移動を必要としない、ラベル付きグラフの効率的サンプリングを可能にする前処理ステップを開発すること。
• 組み合わせた手法がすべての有向グラフに対して再帰的連鎖を生成することを示し、実用的に複雑な移動タイプを回避できること。

提案手法

• ラベル付きグラフ上の元のマルコフ連鎖を、同型なグラフの同値類に射影し、状態空間を同型型に削減する。
• スペクトル的性質と固有値の包含関係を用いて、射影連鎖の混合時間が元の連鎖の混合時間以上であることを証明する。
• ノードラベルをランダムに並び替える線形時間の前処理ステップを導入し、射影後にラベル付きグラフの均一サンプリングを達成する。
• 射影連鎖を同型類に適用し、その後前処理ステップを用いて均一なラベル付きグラフを回復する。
• スペクトルギャップ解析を用いて混合時間の改善を定量的に評価し、特定のグラフ族に対して射影スイッチ連鎖のスペクトルギャップが $ \frac{2}{n} $ であることを示す。
• 特定の次数列に対して、射影連鎖の状態空間が指数的から定数サイズにまで削減されることを示し、例えば $ l $-正則な二次的ノードに対して $ \binom{2l}{l} $ から 1 にまで減少する。

実験結果

リサーチクエスチョン

• RQ1 グラフの同型類にマルコフ連鎖を射影することで、元のラベル付き連鎖と比較して混合時間が保存または向上するか？
• RQ2 ノードラベルを無視することで、理論的境界と実際の収束速度の乖離をどの程度説明できるか？
• RQ3 射影連鎖の後に、六角形移動を必要としない前処理ステップを用いて、効率的にラベル付きグラフをサンプリングできるか？
• RQ4 状態空間の縮小が、射影連鎖のスペクトルギャップおよび混合時間に与える影響は何か？
• RQ5 射影連鎖が定数サイズの状態空間をもたらす次数列は存在するか？その場合、近似的に即時サンプリングが可能になるか？

主な発見

• 射影マルコフ連鎖は、固有値の包含関係と状態空間の縮小により、元の連鎖と比較して混合時間が常にそれ以上である。
• 2つの主ノード（次数 $ n-1 $）と $ n $ 個の二次的ノード（次数1）をもつグラフ族に対して、射影スイッチ連鎖のスペクトルギャップは $ \frac{2}{n} $ であり、混合時間は $ O(n \log(n/\epsilon)) $ となる。
• 2つの主ノード（次数 $ l $ と $ 2l $）と $ 2l $ 個の二次的ノード（次数1）をもつ場合、射影連鎖は状態空間を $ \binom{2l}{l} $ から1つの状態にまで削減し、前処理後に即座に均一サンプリングが可能になる。
• 射影連鎖と線形時間の前処理ステップの組み合わせにより、すべての有向グラフに対して再帰的連鎖が得られ、スイッチおよびカーブボール連鎖で六角形移動を必要としなくなる。
• 元の状態空間に高い対称性がある場合、射影による高速化が顕著になる。これは、状態空間の縮小と初期分布の改善が、収束速度の向上に寄与するためである。
• 元の連鎖の混合時間の理論的境界はしばしば実用的には不切実であるが、射影連鎖はラベルではなくトポロジカル構造に焦点を当てることで、高速かつ無偏なサンプリングの実用的手段を提供する。