[論文レビュー] PK-GCN: Prior Knowledge Assisted Image Classification using Graph Convolution Networks

Xueli Xiao, Chunyan Ji+2 more|arXiv (Cornell University)|Sep 24, 2020

Advanced Graph Neural Networks参考文献 41被引用数 4

ひとこと要約

この論文では、検証データにおける誤分類パターンから得られるクラス類似度知識を統合することで、画像分類の精度を向上させるPK-GCNというグラフ畳み込みニューラルネットワークフレームワークを提案する。誤分類グラフを構築し、それを2段階の訓練プロセスを通じてCNN特徴と融合させることで、特にデータが少ない状況下でも分類精度が向上し、CIFAR-10では最大2.55%、MNISTでは1.56%の絶対的向上を達成する。

ABSTRACT

Deep learning has gained great success in various classification tasks. Typically, deep learning models learn underlying features directly from data, and no underlying relationship between classes are included. Similarity between classes can influence the performance of classification. In this article, we propose a method that incorporates class similarity knowledge into convolutional neural networks models using a graph convolution layer. We evaluate our method on two benchmark image datasets: MNIST and CIFAR10, and analyze the results on different data and model sizes. Experimental results show that our model can improve classification accuracy, especially when the amount of available data is small.

研究の動機と目的

• 深層学習モデルにクラス間類似度知識を統合することで、マルチクラス画像分類の精度を向上させること。
• 標準的なCNNが学習中にクラス間の関係を無視するという限界を是正すること。
• 外部知識や事前学習済み埋め込みに依存せず、データ自体からクラス類似度を抽出する手法を開発すること。
• さまざまなデータ量およびモデルサイズにおける事前知識統合の有効性を評価し、最適な適用状況を特定すること。
• クラス類似度情報が、特に訓練データが限られる状況でモデル性能を顕著に向上させられることを実証すること。

提案手法

• 検証セットの予測結果から有向誤分類グラフを構築し、エッジは1つのクラスが別のクラスに誤分類される頻度を表す。
• トレーニング済みのベースCNNを用いて、最終全結合層の重みからクラス埋め込みを抽出し、各クラスの学習済み特徴表現を表す。
• 誤分類グラフをグラフ構造として用い、グラフ畳み込みネットワーク（GCN）層を適用してクラス埋め込みを伝搬・精錬する。
• 2段階の訓練プロセスを実装：まずベースCNNを事前学習し、次に元のCNN出力とGCN処理済みのクラス類似度特徴を組み合わせてモデルをファインチューニングする。
• 学習可能な重み付き結合を用いて、元のモデルのロジットとGCN予測ロジットを融合し、最終的な分類スコアを向上させる。
• 全モデルをAdaDelta最適化アルゴリズムで訓練し、すべての実験で一貫したハイパーパrameterを用いることで、公平な比較を実現する。

実験結果

リサーチクエスチョン

• RQ1 誤分類パターンから抽出したクラス類似度知識を統合することで、データが少ない状況下でも画像分類の精度が向上するか？
• RQ2 グラフで学習したクラス関係の統合は、さまざまなデータ量およびモデルサイズにおいてモデル性能にどのように影響するか？
• RQ3 訓練データが限られる状況で、提案手法は標準的なCNNを上回るか？その向上幅はどの程度か？
• RQ4 PK-GCNの性能向上は、さまざまなアーキテクチャ（例：シンプルなCNN vs. VGG-11）およびデータセット（例：MNIST vs. CIFAR-10）において一貫しているか？
• RQ5 外部の意味的埋め込みに依存する手法よりも、データ駆動型で自己完結的なクラス類似度学習手法が優れているか？

主な発見

• 300枚のサンプルでの学習時、MNISTにおいて最大1.56パーセンテージポイントの精度向上を示し、データが少ない状況下での顕著な向上を確認した。
• CIFAR-10では、1,000枚のサンプルでの学習時、ベースのVGG-11モデルに対してPK-GCN-2が2.55%の絶対的精度向上を達成した。
• 小規模な訓練データセットで性能向上が顕著に現れ、PK-GCNがデータ不足問題を効果的に緩和できることを示している。
• 複数のモデルアーキテクチャおよびデータセットにおいて一貫して精度向上が確認され、ベースモデルがすでに優れた性能を示しても同様の向上が得られた。
• 2段階の訓練戦略は、学習済み特徴とクラス関係情報の両方を効果的に活用できており、すべての設定でPK-GCN-2がPK-GCN-1を上回る性能を示した。
• さまざまなデータ分割およびモデルの深さにおいても向上が安定しており、データおよびアーキテクチャの設定変動に対して本手法の堅牢性が確認された。