[論文レビュー] Sequential Graph Convolutional Network for Active Learning

Razvan Caramalau, Binod Bhattarai+1 more|arXiv (Cornell University)|Jun 18, 2020

Machine Learning and Algorithms参考文献 48被引用数 7

ひとこと要約

本論文は、画像分類および回帰タスクにおけるサンプル選択を改善するため、順序付きグラフ畳み込みネットワーク（GCN）を用いたタスクに依存しないアクティブラーニングフレームワークを提案する。画像特徴をグラフのノードとしてモデル化し、GCNに基づくメッセージパッシングを活用して、ラベル付きデータとは意味的に異なる未ラベル付きサンプルを同定することで、実画像および合成画像データセット、3Dハンドポーズ推定を含む6つのベンチマークで最先端の性能を達成した。

ABSTRACT

We propose a novel pool-based Active Learning framework constructed on a sequential Graph Convolution Network (GCN). Each image's feature from a pool of data represents a node in the graph and the edges encode their similarities. With a small number of randomly sampled images as seed labelled examples, we learn the parameters of the graph to distinguish labelled vs unlabelled nodes by minimising the binary cross-entropy loss. GCN performs message-passing operations between the nodes, and hence, induces similar representations of the strongly associated nodes. We exploit these characteristics of GCN to select the unlabelled examples which are sufficiently different from labelled ones. To this end, we utilise the graph node embeddings and their confidence scores and adapt sampling techniques such as CoreSet and uncertainty-based methods to query the nodes. We flip the label of newly queried nodes from unlabelled to labelled, re-train the learner to optimise the downstream task and the graph to minimise its modified objective. We continue this process within a fixed budget. We evaluate our method on 6 different benchmarks:4 real image classification, 1 depth-based hand pose estimation and 1 synthetic RGB image classification datasets. Our method outperforms several competitive baselines such as VAAL, Learning Loss, CoreSet and attains the new state-of-the-art performance on multiple applications The implementations can be found here: https://github.com/razvancaramalau/Sequential-GCN-for-Active-Learning

研究の動機と目的

• タスク依存のアクティブラーニング手法に見られる拡張性の欠如と、ラベル付きデータと未ラベル付きデータの相関を十分に活用できないという限界を解消すること。
• 画像特徴のグラフ構造的表現を活用して、より情報豊かなアクティブラーニングを実現するタスクに依存しないサンプリング機構を開発すること。
• 現在のラベル付きデータセットに対して、多様性と情報性の両方を備えた未ラベル付きサンプルを選択することで、データが限られた状況での性能を向上させること。
• 画像分類、深度に基づく3Dハンドポーズ推定、合成データのサブサンプリングを含む多様なタスクにわたる一般化の有効性を実証すること。
• GCNサンプラーを任意の下流学習者と統合可能であり、各タスクで再訓練を必要としない統一フレームワークを提供すること。

提案手法

• 事前学習済みの学習者から得られる各画像の特徴埋め込みをノードとし、特徴距離に基づく類似度をエッジとして定義することで、グラフを構築する。
• 複数のGCN層を適用し、メッセージパッシングを実行することで、ノードが隣接ノードからの情報を集約し、意味的に類似した画像をグループ化する高次元表現を生成する。
• 二値交差エントロピー損失を用いて、ラベル付きノードと未ラベル付きノードを区別するようにGCNを学習させ、両クラスの違いを反映するグラフパラメータを学習する。
• GCNから得られるノード埋め込みとその信頼度スコアを活用し、不確実性ベースおよびCoreSetに類似したサンプリング戦略を用いて、最も情報価値の高い未ラベル付きサンプルを問い合わせる。
• 選択された未ラベル付きノードのラベルを反転させ、更新されたラベル付きデータセットで学習者を再訓練し、更新されたグラフでGCNを再訓練する。このプロセスを固定された予算内で繰り返す。
• 学習者をDeepPriorに置き換えることで回帰タスク（例：3Dハンドポーズ推定）に対応させ、同じサンプラーとグラフパイプラインを維持することで、タスクに依存しない性質を実証する。

実験結果

リサーチクエスチョン

• RQ1 ラベル付き画像と未ラベル付き画像の間の構造的関係を活用することで、グラフベースのサンプリング機構はアクティブラーニングの性能向上を図れるか？
• RQ2 VAAL や CoreSet といったタスク固有またはタスクに依存しないベースラインと比較して、GCNベースのサンプラーは、サンプル効率および最終的なモデル精度においてどのように差をつけるか？
• RQ3 提案されたGCNサンプラーは、画像分類、回帰（3D HPE）、合成データのサブサンプリングといった多様なタスクにどの程度一般化可能か？
• RQ4 GCNノード埋め込みからの不確実性推定を組み込むことで、ランダムまたはCoreSetベースのサンプリングに比べて、より良い情報価値の高いサンプルが選択可能になるか？
• RQ5 GCNサンプラーは、ノイズを低減し、下流モデルの性能を向上させるために、高品質な合成例を効果的に特定できるか？

主な発見

• 提案されたUncertainGCNおよびCoreGCNサンプリング手法は、VAAL、Learning Loss、CoreSetを含む複数のベースラインを上回り、6つのベンチマークで最先端の性能を達成した。
• ICVL 3Dハンドポーズ推定データセットでは、CoreGCNが12.3 mmの最小平均二乗誤差を達成し、2回目から6回目の選択段階にかけて誤差が急激に低下した。
• ICVLデータセットでは、UncertainGCNがCoreSetおよびランダムサンプリングよりも一貫して低い誤差を示し、2回目から5回目の段階にかけて誤差の低下が著しかった。
• StarGANから得た合成顔の表情データでは、UncertainGCNがランダムサンプリングに比べて高い平均正答率と低い分散を達成し、高品質な合成例の選択効果を示した。
• アブレーションスタディの結果、GCNベースのサンプリングと信頼度に基づく不確実性選択の両方が性能向上に寄与していることが確認され、完全なパイプラインがアブレーションバージョンを上回った。
• 本手法は、実画像分類、深度に基づく3D HPE、合成データサブサンプリングという多様なタスクにおいても強力な性能を維持した。これは、タスクに依存しない性質と一般化能力の有効性を裏付けた。