[論文レビュー] Tail Bounds for Matrix Quadratic Forms and Bias Adjusted Spectral Clustering in Multi-layer Stochastic Block Models

Jing Lei|arXiv (Cornell University)|Mar 18, 2020

Random Matrices and Applications参考文献 58被引用数 7

ひとこと要約

本稿は、スカラーおよび行列の集中不等式を拡張し、行列値の2次形式およびU統計量に対する新しい尾確率不等式を開発する。これらのツールを応用して、複雑な信号構造を有する多層ストークスティック・ブロック・モデルにおけるバイアス補正付きスペクトルクラスタリング手法の一貫性を確立する。

ABSTRACT

We develop tail probability bounds for matrix linear combinations with matrix-valued coefficients and matrix-valued quadratic forms. These results extend well-known scalar case results such as the Hanson--Wright inequality, and matrix concentration inequalities such as the matrix Bernstein inequality. A key intermediate result is a deviation bound for matrix-valued $U$-statistics of order two and their independent sums. As an application of these probability tools in statistical inference, we establish the consistency of a novel bias-adjusted spectral clustering method in multi-layer stochastic block models with general signal structures.

研究の動機と目的

• スカラーおよび行列の集中不等式を、行列値の2次形式およびU統計量へと拡張すること。
• 行列係数を有する行列線形結合の分析に適した確率的ツールを開発すること。
• 任意の信号構造を有する多層ストークスティック・ブロック・モデルにおける厳密な統計的推論を可能にすること。
• このようなモデルにおける、新しいバイアス補正付きスペクトルクラスタリング手順の一貫性を確立すること。

提案手法

• 2次の行列値U統計量およびそれらの独立和の逸脱バウンドを、主要な中間的結果として導出する。
• 行列係数を有する行列線形結合の尾確率バウンドを確立し、ハンソン＝ワリューおよび行列ベーツ不等式を一般化する。
• これらの集中不等式を、ネットワークバイアスによるモデル不適合状況下でのスペクトルクラスタリングアルゴリズムの分析に応用する。
• 多層ネットワークデータにおける系統的誤差を補正するバイアス補正付きスペクトルクラスタリング手法を提案する。
• 導出されたバウンドを用いて、一般の信号設定下でのクラスタリング手順の一貫性を証明する。
• 現実的なネットワークデータを反映する、任意の信号構造を有する多層ストークスティック・ブロック・モデルを定式化する。

実験結果

リサーチクエスチョン

• RQ1 行列係数を有する行列値2次形式を扱うために、行列集中不等式をどのように拡張できるか。
• RQ2 高次元設定下における2次行列値U統計量の逸脱特性は何か。
• RQ3 複雑で非一様な信号構造を有する多層ストークスティック・ブロック・モデルにおいて、バイアス補正付きスペクトルクラスタリングは一貫性を示せるか。
• RQ4 多層ネットワークモデルにおけるスペクトルクラスタリングを厳密に分析するために必要な確率的ツールは何か。
• RQ5 導出された尾バウンドが、提案されたクラスタリング手法の一貫性をどのように保証するか。

主な発見

• 本稿は、ハンソン＝ワリューおよび行列ベーツ不等式を行列値設定へ一般化する、行列2次形式の新しい尾バウンドを確立する。
• 主要な中間的結果として、2次行列値U統計量およびそれらの独立和の逸脱バウンドが得られる。
• 提案されたバイアス補正付きスペクトルクラスタリング手法は、一般の信号構造を有する多層ストークスティック・ブロック・モデルにおいて一貫性を示すことが証明された。
• 導出された集中不等式により、任意の信号配置を有する多層ネットワークデータにおける厳密な統計的推論が可能になった。
• この手法はネットワークバイアスを効果的に補正し、多層設定下でのクラスタリング精度を向上させる。
• 理論的枠組みは、i.i.d. またはブロック定数の仮定を超えた、複雑で現実的なネットワークモデルにおけるスペクトルクラスタリングの適用を支援する。