[論文レビュー] Modelling Graph Errors: Towards Robust Graph Signal Processing

J.K. Miettinen, Sergiy A. Vorobyov+1 more|arXiv (Cornell University)|Mar 20, 2019

Advanced Graph Neural Networks参考文献 47被引用数 4

ひとこと要約

本稿では、グラフ信号処理（GSP）タスクにおける隣接行列推定誤差の影響を調査するための実用的なグラフ誤差モデルを導入する。Erdös-Rényi確率的グラフとグラフン理論に基づくフレームワークを用いて、隣接行列への摂動をモデル化し、グラフフィルタリングや独立成分分析などのGSP手法に対する影響を解析的におよび数値的に評価する。主な結果として、誤差の影響はグラフのトポロジーと信号構造に依存することが示された。

ABSTRACT

The first step for any graph signal processing (GSP) procedure is to learn the graph signal representation, i.e., to capture the dependence structure of the data into an adjacency matrix. Indeed, the adjacency matrix is typically not known a priori and has to be learned. However, it is learned with errors. A little attention has been paid to modelling such errors in the adjacency matrix, and studying their effects on GSP methods. However, modelling errors in the adjacency matrix will enable both to study the graph error effects in GSP and to develop robust GSP algorithms. In this paper, we therefore introduce practically justifiable graph error models. We also study, both analytically when possible and numerically, the graph error effect on the performance of GSP methods in different types of problems such as filtering of graph signals and independent component analysis of graph signals (graph decorrelation).

研究の動機と目的

• グラフ信号処理（GSP）における学習済み隣接行列の誤差の体系的モデリングの欠如に対処すること。
• 特に隣接行列におけるグラフ構造の誤差が、GSP手法の性能に与える影響を調査すること。
• GSPアルゴリズムのロバスト設計を可能にする理論的根拠と実用的妥当性を持つグラフ誤差モデルを構築すること。
• 隣接行列の不確実性がグラフフィルタリングやグラフ信号の独立成分分析（ICA）といった主要なGSPタスクに与える影響を分析すること。
• グラフのトポロジカル摂動に対するGSP手法の感度を評価するための解析的および数値的ツールを提供すること。

提案手法

• 隣接行列の不確実性をモデリングするためのベースラインとして、Erdös-Rényi確率的グラフモデルを用いる。
• 真の隣接行列が既知の確率でランダムにエッジの追加または削除を受ける摂動モデルを導入する。
• 大規模なグラフ構造をモデリングし、固有値および固有関数の漸近的挙動を導出するためにグラフン理論を適用する。
• 真のグラフと推定されたグラフの差を測定するための最小距離インデックスを用いる。
• 確率論的および行列代数的手法を用いて、グラフ誤差モデル下での期待信号エネルギーおよび自己相関の解析的表現を導出する。
• 大数の法則および確率的グラフモデルの対称性を用いて、グラフ信号処理演算の期待挙動を近似する。

実験結果

リサーチクエスチョン

• RQ1 学習済み隣接行列の誤差は、グラフフィルタリングおよびグラフ信号の分散分析にどのように影響を与えるか？
• RQ2 Erdös-Rényiおよびグラフンベースのモデルを用いたグラフ誤差モデリングの理論的および実用的意味は何か？
• RQ3 グラフの構造（例：次数分布、固有値スペクトル）は、隣接行列誤差に対するGSP手法の感度にどのように影響を与えるか？
• RQ4 ランダム行列理論およびグラフンモデルを用いて、グラフ誤差の影響をどの程度解析的に定量化できるか？
• RQ5 エッジ削除やエッジ追加といった異なる誤差モデルは、グラフICAやフィルタリングなどのGSPアルゴリズムの安定性にどのように影響を与えるか？

主な発見

• フィルタリングされた信号の期待二乗ノルムは、$ \frac{1}{N} \mathbb{E}\{\|\mathbf{z}\|^2\} \approx \sigma_y^2 \left( (\alpha - \alpha^2)\theta^2 a^2 N - 2\alpha\theta a + 1 \right) $ と近似され、グラフ密度 $\alpha$、フィルタゲイン $\theta$、および信号分散に依存することが示された。
• Erdös-Rényiモデル下では、グラフ誤差の影響が解析的に取り扱える。特に、隣接行列摂動の期待値は大数の法則により $ c\epsilon $ に収束する。
• グラフンカーネルを用いることで、隣接行列の固有値および固有関数を近似でき、大規模グラフの漸近的解析が可能になる。
• 最小距離インデックスは、真のグラフと推定されたグラフの差を測る指標を提供し、誤差モデリングおよびロバストネス解析を支援する。
• 解析により、グラフ誤差の影響は信号測定誤差とは同等ではなく、GSPにおいて別個のモデリングアプローチを要することが明らかになった。
• 数値結果により、グラフ誤差の影響は非自明であり、特にフィルタリングおよびICAタスクにおいて、信号構造とグラフトポロジーの相乗作用に依存することが確認された。