[論文レビュー] KerGM: Kernelized Graph Matching

Zhen Zhang, Yijian Xiang+3 more|arXiv (Cornell University)|Nov 25, 2019

Advanced Graph Neural Networks被引用数 9

ひとこと要約

KerGMは、再帰的再生ヒルバート空間（RKHS）におけるアレイアライメントとして定式化することにより、Koopmans-Beckmannの問題とLawlerの二次割り当て問題（QAP）を統一するカーネル化されたグラフマッチングフレームワークを提案する。$n^2 \times n^2$ の大きな類似度行列の明示的計算を回避する。また、エントロピー正則化Frank-Wolfe（EnFW）アルゴリズムを導入し、画像および生物学的グラフマッチングベンチマークにおいて最先端の精度とスケーラビリティを達成する。

ABSTRACT

Graph matching plays a central role in such fields as computer vision, pattern recognition, and bioinformatics. Graph matching problems can be cast as two types of quadratic assignment problems (QAPs): Koopmans-Beckmann's QAP or Lawler's QAP. In our paper, we provide a unifying view for these two problems by introducing new rules for array operations in Hilbert spaces. Consequently, Lawler's QAP can be considered as the Koopmans-Beckmann's alignment between two arrays in reproducing kernel Hilbert spaces (RKHS), making it possible to efficiently solve the problem without computing a huge affinity matrix. Furthermore, we develop the entropy-regularized Frank-Wolfe (EnFW) algorithm for optimizing QAPs, which has the same convergence rate as the original FW algorithm while dramatically reducing the computational burden for each outer iteration. We conduct extensive experiments to evaluate our approach, and show that our algorithm significantly outperforms the state-of-the-art in both matching accuracy and scalability.

研究の動機と目的

• LawlerのQAPのスケーラビリティのボトル neck を解決する。これは、$n^2 \times n^2$ の類似度行列の計算を必要とし、小規模なグラフに限定される。
• 再帰的再生ヒルバート空間（RKHS）におけるカーネル誘導操作を用いて、Koopmans-BeckmannのQAPとLawlerのQAPの両方を統一的なフレームワークで扱う。
• 大規模グラフマッチングのための数値的に効率的な最適化アルゴリズムを開発し、反復ごとの計算コストを低減しながらも収束速度を維持する。
• 蛋白質-蛋白質相互作用ネットワークや画像特徴対応など、複雑なエッジ属性を持つ実世界のデータセットにおいて、高精度なグラフマッチングを実現する。
• QAP最適化における局所最適解の問題を、凸から凹への緩和のパスフォローリング戦略によって軽減する。

提案手法

• ヒルバート空間におけるアレイ操作を可能にする$\mathcal{H}$-操作を導入し、LawlerのQAPをRKHSにおけるKoopmans-Beckmann型のアライメントに再定式化する。
• エッジ類似度がカーネル構造を持つと仮定し、カーネルトリックとRKHSの性質を活用することで、$n^2 \times n^2$ の類似度行列の明示的計算を回避する。
• エントロピー正則化Frank-Wolfe（EnFW）アルゴリズムを提案。標準的なFrank-Wolfeと同等の収束速度を維持しつつ、エントロピー正則化により反復ごとの計算コストを低減する。
• QAPの凸緩和から凹緩和への段階的移行を実現するパスフォローリング戦略を実装し、局所最適解への感受性を低め、解の品質を向上させる。
• 特に大規模なPPIネットワーク向けに、フーリエランダム特徴を用いてカーネル関数を効率的に近似する。
• 画像ベースのグラフマッチング（CMU House, Pascal）および生物学的ネットワークアラインメント（S. cerevisiae PPI）に、ヒート拡散に基づくエッジ属性を適用する。

実験結果

リサーチクエスチョン

• RQ1 LawlerのQAPは、複雑なエッジ属性をモデル化できる状態で、$n^2 \times n^2$ の類似度行列の明示的計算を回避しつつ、再定式化可能か？
• RQ2 Koopmans-BeckmannのQAPとLawlerのQAPは、再帰的再生ヒルバート空間（RKHS）における一貫したカーネルベースのフレームワークで統一可能か？
• RQ3 エントロピー正則化を施したFrank-Wolfeの変種は、大規模グラフマッチングにおいて、収束速度を維持しながら反復ごとの計算コストを顕著に低減可能か？
• RQ4 凸から凹への緩和のパスフォローリング戦略は、局所最大値を回避することで解の品質を向上させるか？
• RQ5 KerGMフレームワークは、多様なデータセットにおいて、SOTA手法を上回るマッチング精度とスケーラビリティを達成する程度か？

主な発見

• CMU Houseデータセットでは、KerGM-IがFGMやBPFGを上回る最高のマッチング精度を達成し、$n_1=20, n_2=30$ の外れ値条件下でも顕著な優位性を示す。
• Pascalデータセットでは、KerGM-IはFGMやBPFGと同等またはそれ以上の精度を達成するが、特に高速であり、BPFGは高い計算コストのため最も遅い。
• 25%のノイズを含むS. cerevisiae PPIネットワークでは、KerGM-IIがTAME、GHOST、MAGNAを50ポイント以上上回る高い精度を達成し、ノイズに強い性能を示す。
• EnFWアルゴリズムは、標準的なFrank-Wolfeと同等の収束速度を維持しながら、反復ごとの計算負荷を低減し、より大きなグラフへのスケーラビリティを実現する。
• $\mathcal{H}$-操作によるカーネル化定式化により、類似度行列の明示的計算を効果的に回避し、LawlerのQAPが大規模グラフに適用可能になる。
• 凸から凹への緩和のパスフォローリング戦略により、局所最適解への感受性が低下し、データセット全体にわたり一貫した性能向上が確認された。