[論文レビュー] Min-plus algebraic low rank matrix approximation: a new method for revealing structure in networks

James Hook|arXiv (Cornell University)|Aug 22, 2017

Tensor decomposition and applications被引用数 4

ひとこと要約

本稿では、最短経路距離をモデル化することでネットワーク内の構造的パターンを明らかにする、min-plus代数に基づく新しい低ランク行列近似法、min-plus低ランク行列近似を提案する。min-plus代数とは、加法を最小値に、乗法を加法に置き換える代数的構造である。従来のPCA や SVD とは異なり、非線形的で経路に基づくネットワーク構造を検出できる。実際、距離行列の因子分解により、イルカの社会的組織が成功裏に捉えられている。

ABSTRACT

In this paper we introduce min-plus low rank matrix approximation. By using min and plus rather than plus and times as the basic operations in the matrix multiplication; min-plus low rank matrix approximation is able to detect characteristically different structures than classical low rank approximation techniques such as Principal Component Analysis (PCA). We also show how min-plus matrix algebra can be interpreted in terms of shortest paths through graphs, and consequently how min-plus low rank matrix approximation is able to find and express the predominant structure of a network.

研究の動機と目的

• ネットワーク内の構造的パターンを検出するため、min-plus代数に基づく新しい低ランク行列近似手法を開発すること。
• PCA や SVD といった従来の線形手法が見逃す可能性のある、経路に基づく関係性に依存するネットワーク構造を検出可能にする。
• 潜在的な近隣領域や中継地点を用いて、ネットワーク距離行列の解釈可能な因子分解を提供すること。
• 実際のネットワークデータを用いた、min-plus因子分解と切り捨てられたSVD、非負値行列因子分解（NNMF）の性能と解釈可能性を比較すること。

提案手法

• 半環 $(\mathbb{R}_{\min}, \oplus, \otimes)$ を用いて min-plus行列代数を形式化し、$a \oplus b = \min(a,b)$ および $a \otimes b = a + b$ とする。
• min-plus行列乗算を定義し、$(A \otimes B)_{ij} = \min_k (a_{ik} + b_{kj})$ とすることで、経路に基づく計算が可能になる。
• 先行関係グラフ $\Gamma(A)$ を用いて、min-plus積を最短経路重みとして解釈し、$A^{\otimes \ell}_{ij}$ は長さ $\ell$ の最短経路を表す。
• 負のサイクルが存在しない場合、すべてのペア間の最短経路を計算するため、$A^\star = I \oplus A \oplus A^{\otimes 2} \oplus \cdots$ を用いる。
• 距離行列 $D$ の min-plus低ランク因子分解を最小化する反復的アルゴリズム（アルゴリズム2）を提案し、残差 $\|D - F \otimes F^T\|_F$ を最小化する。
• 因子行列 $F$ を潜在的近隣領域として解釈する：$f_{ik}$ が小さいほどノード $i$ は近隣領域 $k$ に近いことを示し、構造的解釈が可能になる。

実験結果

リサーチクエスチョン

• RQ1 min-plus低ランク近似は、PCA や SVD といった従来の低ランク手法が捉え損なうネットワークの構造的パターンを検出できるか？
• RQ2 切り捨てられたSVD や非負値行列因子分解（NNMF）と比較して、min-plus因子分解は残差誤差と解釈可能性の面でどのように異なるか？
• RQ3 隣接行列 $A$ の代わりに距離行列 $D$ を因子分解することで、間接的で経路に基づくネットワーク関係の検出がどの程度向上するか？
• RQ4 min-plus因子分解における潜在的要因は、ネットワーク内の近隣領域や中継地点として意味的に解釈可能か？
• RQ5 実例としてイルカの社会的ネットワークのような事例において、min-plusアプローチはより正確または意味のあるネットワークトポロジーの表現を明らかにするか？

主な発見

• min-plus低ランク因子分解は、最短経路距離行列 $D$ の因子分解により、イルカの社会的ネットワークの主な構造を成功裏に捉えている。
• min-plus因子分解の残差誤差は、非常に小さなランクおよび非常に大きなランクでは切り捨てられたSVDと同等であるが、因子の解釈可能性が優れている。
• 因子行列 $F$ の列は潜在的近隣領域を表す：同じ近隣領域に近いイルカどうしはネットワーク内で近接している可能性が高く、共通の近隣領域への近接性に基づくクラスタリングが可能になる。
• 本手法は距離行列上で動作するため、経路に基づく非線形的で非線形なネットワーク構造を明らかにする。これに対してNNMFは隣接行列上で動作し、間接的な接続を無視する。
• 因子分解の結果、イルカの位置が $\mathbb{R}^3$ 上で明確に空間的に散らばり、実際のネットワーク構造と視覚的に一致しており、トポロジカル関係を保持していることが確認された。
• 初期化に強く、100回の実行から最小の残差誤差を示す因子分解をアルゴリズムが選択する。実用的妥当性が示された。