[論文レビュー] Dynamic Edge-Conditioned Filters in Convolutional Neural Networks on Graphs

Martin Simonovsky, Nikos Komodakis|arXiv (Cornell University)|Apr 10, 2017

Data Visualization and Analytics参考文献 35被引用数 50

ひとこと要約

本論文は Edge-Conditioned Convolution (ECC) を紹介します。これはエッジラベルに基づいてフィルタ重みを動的に生成する空間ドメインのグラフ畳み込みであり、構造が変化するグラフ上での学習を可能にし、Sydney LiDAR 点群において最先端の結果を達成し、グラフベンチマークでも高い性能を示します。

ABSTRACT

A number of problems can be formulated as prediction on graph-structured data. In this work, we generalize the convolution operator from regular grids to arbitrary graphs while avoiding the spectral domain, which allows us to handle graphs of varying size and connectivity. To move beyond a simple diffusion, filter weights are conditioned on the specific edge labels in the neighborhood of a vertex. Together with the proper choice of graph coarsening, we explore constructing deep neural networks for graph classification. In particular, we demonstrate the generality of our formulation in point cloud classification, where we set the new state of the art, and on a graph classification dataset, where we outperform other deep learning approaches. The source code is available at https://github.com/mys007/ecc

研究の動機と目的

• CNN に似たフィルタリングを任意のグラフへ一般化し、可変の接続性を扱う。
• エッジラベルを活用して条件付けを行い、畳み込みフィルタを動的に生成する。
• 点群と標準的なグラフ分類ベンチマークで手法を実証する。
• グラフのコアースニングとプーリングを用いた深層グラフ分類器の構築に向けたネットワークアーキテクチャを検討する。

提案手法

• 各近傍のエッジラベル L(j,i) がフィルター生成ネットワーク F^l を介して固有のフィルタ Θ_{ji}^l を生成する Edge-Conditioned Convolution (ECC) を定義する。
• X^l(i) を Θ_{ji}^l X^{l-1}(j) の隣接ノードの平均にバイアスを加えて計算し、局所の構造情報がフィルタリングに影響を与えるようにする。
• ECC が標準の畳み込みを一般化することを示す。グリッドの場合、適切なエッジラベリングとともに、ECC は通常の畳み込みに縮約する。
• グラフ上でコアースニング/プーリングを用いてグラフ分類の階層的ネットワークを構築する。
• 点群に ECC を適用する。ユークリッド空間の近傍からグラフを構築し、空間オフセットを捉えるエッジラベルを使用する。
• Sydney Urban Objects、ModelNet、NCI/MUTAG/enzymes/D&D グラフデータセット、および MNIST をグラフベースの実験として評価する。

実験結果

リサーチクエスチョン

• RQ1 ECC はエッジラベルを活用して、構造が変化するグラフ上で局所感度の高いフィルタリングを改善できるか？
• RQ2 点群と標準的なグラフベンチマークにおいて、ECC の性能は既存のグラフ畳み込みや体積ベースの手法とどのように比較されるか？
• RQ3 グラフのコアースニングとプーリングは、グラフ分類の効果的な深層アーキテクチャをどの程度実現できるか？
• RQ4 Sydney LiDAR データや ModelNet のような難易度の高いデータセットで、ECC は最先端手法と競合できるか？
• RQ5 データセット全体にわたる性能において、エッジラベルを含めるか否かの影響は何か？

主な発見

モデル	平均 F1
Triangle+SVM [9]	67.1
GFH+SVM [7]	71.0
VoxNet [26]	73.0
ORION [1]	77.8
ECC 2ρ	74.4
ECC 1.5ρ	76.9
ECC	78.4

• ECC は比較対象手法の中で Sydney Urban Objects において平均 F1 が最先端（ECC 78.4）を達成。
• ECC ベースの変種は、中程度の近傍サイズが好ましいことを示す。適切なスキップ接続なしにより大きな半径を用いると精度がわずかに低下する可能性がある。
• ModelNet10/40 では非常に競争力があり、12-ビュー投票で最大 90.8% の平均精度を達成。
• 標準的なグラフベンチマーク（NCI1, NCI109, MUTAG, ENZYMES, D&D）では、ECC は複数のベースラインと同等かそれ以上の性能を示し、エッジラベルの使用がエッジラベルを省く variante より明確な有利性を提供する。
• MNIST の実験は、グリッドベースのタスクで最先端と同等の性能を示すことができ、滑らかでエッジ条件付きのフィルタを学習する。