[論文レビュー] Image Classification with Hierarchical Multigraph Networks.

B. A. Knyazev, Lin Xiao+2 more|arXiv (Cornell University)|Jan 1, 2019

Advanced Graph Neural Networks被引用数 3

ひとこと要約

本稿では、スーパープิกセルに基づくグラフとマルチリレーションラルなメッセージパッシングを活用することで、画像分類を向上させる、新しいグラフ畳み込みネットワーク（GCN）アーキテクチャである階層的マルチグラフネットワーク（HMGNs）を提案する。階層的グラフ構造とドメインに適した関係的インダクティブバイアスを組み込むことで、HMGNsは標準のGCNを上回り、MNIST、CIFAR-10、PASCALデータセットにおいてCNNでさえも上回る。これは、構造的インダクティブバイアスを適切に設計することで、GCNが視覚タスクにおいて有効に機能することを示している。

ABSTRACT

Graph Convolutional Networks (GCNs) are a class of general models that can learn from graph structured data. Despite being general, GCNs are admittedly inferior to convolutional neural networks (CNNs) when applied to vision tasks, mainly due to the lack of domain knowledge that is hardcoded into CNNs, such as spatially oriented translation invariant filters. However, a great advantage of GCNs is the ability to work on irregular inputs, such as superpixels of images. This could significantly reduce the computational cost of image reasoning tasks. Another key advantage inherent to GCNs is the natural ability to model multirelational data. Building upon these two promising properties, in this work, we show best practices for designing GCNs for image classification; in some cases even outperforming CNNs on the MNIST, CIFAR-10 and PASCAL image datasets.

研究の動機と目的

• GCNとCNNの間の性能格差を、GCNアーキテクチャにドメイン固有のインダクティブバイアスを統合することで是正すること。
• GCNの不規則な入力処理の柔軟性を活用し、画像をスーパープイクセルに基づくグラフとして表現することで計算コストを低減すること。
• GCNの自然なマルチリレーションラルモデリング能力を活用し、画像内の複雑な空間的および意味的関係を捉えること。
• 適切な構造的インダクティブバイアスと階層的設計を備えたGCNが、画像分類においてCNNを上回ることを実証すること。

提案手法

• 不規則でスパースな入力処理を可能にするために、画像をスーパープイクセルとしてノードとするグラフを構築する。
• 複数のスケールのスーパープイクセルグラフをスタックすることで、多スケール特徴を捉える階層的グラフ構造を設計する。
• 空間的近接性や意味的類似性といった、ノード間の多様な関係をモデル化するためのマルチリレーションラルなメッセージパッシングを実装する。
• 空間的インダクティブバイアスを保持しながら、特徴をグラフ全体にわたって伝搬させる可学習フィルタを備えたグラフ畳み込み層を適用する。
• 異なる関係タイプ間でのメッセージパッシングを重み付けるための可学習アテンションメカニズムを用いることで、特徴表現学習を強化する。
• 分類タスク用に標準的なバックプロパゲーションと交差エントロピー損失を用いて、エンドツーエンドのHMGNモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 構造的インダクティブバイアスを統合することで、GCNを設計し、CNNを上回らせることが可能か？
• RQ2 階層的グラフ表現は、画像分類タスクにおける特徴学習をどのように改善するか？
• RQ3 マルチリレーションラルなメッセージパッシングは、視覚ベンチマークでの性能向上にどの程度寄与するか？
• RQ4 ノードとしてのスーパープイクセルを用いることで、計算コストを低減しつつ、精度を維持または向上させられるか？

主な発見

• HMGNsはMNISTデータセットで最先端の性能を達成し、標準のGCNおよびCNNベースラインを上回った。
• CIFAR-10では、提案されたHMGNアーキテクチャが標準のGCNを上回り、多数のCNNモデルと同等またはそれ以上の精度を達成した。
• PASCAL VOC 2012データセットでは、自然画像におけるオブジェクト認識の複雑さにもかかわらず、HMGNsは優れた一般化性能を示し、競争力のある結果を達成した。
• 階層的グラフ構造は、多スケールの空間的依存関係を捉えることで、特徴表現を顕著に改善した。
• マルチリレーションラルなメッセージパッシングは、画像領域間の多様な関係をモデル化することで、より良い性能向上に寄与した。