[論文レビュー] Graph-based Semi-supervised Learning: A Comprehensive Review

Zixing Song, Xiangli Yang+2 more|arXiv (Cornell University)|Feb 26, 2021

Text and Document Classification Technologies被引用数 26

ひとこと要約

このサーベイは、グラフベースの半教師あり学習（GSSL）の体系的で最新の分類と批評を提供し、グラフ構成とラベル推定方法を詳述し、グラフ埋め込みの統一エンコーダ–デコーダ視点を用いたものと、今後の方向性の議論を含む。

ABSTRACT

Semi-supervised learning (SSL) has tremendous value in practice due to its ability to utilize both labeled data and unlabelled data. An important class of SSL methods is to naturally represent data as graphs such that the label information of unlabelled samples can be inferred from the graphs, which corresponds to graph-based semi-supervised learning (GSSL) methods. GSSL methods have demonstrated their advantages in various domains due to their uniqueness of structure, the universality of applications, and their scalability to large scale data. Focusing on this class of methods, this work aims to provide both researchers and practitioners with a solid and systematic understanding of relevant advances as well as the underlying connections among them. This makes our paper distinct from recent surveys that cover an overall picture of SSL methods while neglecting fundamental understanding of GSSL methods. In particular, a major contribution of this paper lies in a new generalized taxonomy for GSSL, including graph regularization and graph embedding methods, with the most up-to-date references and useful resources such as codes, datasets, and applications. Furthermore, we present several potential research directions as future work with insights into this rapidly growing field.

研究の動機と目的

• GSSLの進展とそれらがどのように関連するかについて、確固たる体系的な理解を提供する。
• グラフ構築とラベル推定を分離する一般化された分類法を提案する。
• 統一された枠組みの中で、グラフ正則化とグラフ埋込みアプローチを要約する。
• 研究者と実務家向けに、コード、データセット、アプリケーションを含む実践的リソースを提供する。
• ダイナミクス性、スケーラビリティ、ノイズ耐性、および堅牢性に関する未解決課題と将来の方向性を特定する。

提案手法

• グラフ構築とラベル推定の2段階プロセスを導入する。
• 一般化損失フレームワーク L(f) = Ls(f, Dl) + μLr(f, D) を提示し、グラフ正則化とグラフ埋込みへの適用を特化する。
• ラベル推定法をグラフ正則化とグラフ埋込みに分類し、特定の正則化項とその定式化を論じる。
• 浅い埋込みと深い埋込みアプローチを結びつけるために、グラフ埋込みの統一的なエンコーダ–デコーダ視点を提案する。
• 具体的な手法のレビュー: label propagation, GRF, LGC, p-Laplacian regularization, directed regularization, manifold regularization, LPDGL, Poisson learning.
• KNN、ε-近傍、b-マッチングなどのグラフ構築技術を、監視付きバリアントを含めて議論する。

実験結果

リサーチクエスチョン

• RQ1 GSSL において、グラフ構築とラベル推定をどのように体系的に分類できるか。
• RQ2 グラフ上で効果的なラベル伝播を可能にする、コアの正則化および埋込みアプローチは何か。
• RQ3 浅い表現と深い表現の両方を捉えるために、エンコーダ–デコーダ枠組みの下でグラフ埋込みをどう統一できるか。
• RQ4 実践的な導入と実験を支援するリソース（コード、データセット、アプリケーション）は何があるか。
• RQ5 GSSL におけるダイナミクス性、スケーラビリティ、ノイズ耐性、および堅牢性の未解決の研究方向は何か。

主な発見

• 本論文は、包括的で最新のレビューとGSSLの新しい分類を提供する。
• グラフ正則化とグラフ埋込みの両方を導く一般的な損失フレームワークを提示する。
• ラベル伝播とその派生形（GRF、LGC、p-Laplacian、directed regularization）は、グラフ正則化の中核をなす。
• グラフ埋込みはエンコーダ–デコーダ・パラダイムの中に位置づけられ、浅いアプローチと深いアプローチを統合している。
• この調査は、実践的な実験を支援するために利用可能なコード、データセット、およびアプリケーションを取りまとめている。
• ダイナミックでスケーラブル、かつ堅牢なGSSLに関する未解決問題と今後の方向性を議論する。