[論文レビュー] Novel Class Discovery: an Introduction and Key Concepts

Colin Troisemaine, Vincent Lemaire+4 more|arXiv (Cornell University)|Feb 22, 2023

Machine Learning and Algorithms被引用数 4

ひとこと要約

本稿は、未知のクラスを学習する弱い教師あり学習設定であるNovel Class Discovery（NCD）について包括的なサーベイを提供している。モデルは学習中にラベル付きの既知クラスとラベルなしの未知クラスから学習する。本稿では、知識の転送に基づく分類——二段階学習と一括学習——を用いてNCD手法の分類法を提示し、疑似ラベル付け、自己教師あり学習、対照的学習といった主要な技術を強調している。また、NCDと類縁分野（ゼロショット学習、オープンワールド学習など）の違いも明確にしている。

ABSTRACT

Novel Class Discovery (NCD) is a growing field where we are given during training a labeled set of known classes and an unlabeled set of different classes that must be discovered. In recent years, many methods have been proposed to address this problem, and the field has begun to mature. In this paper, we provide a comprehensive survey of the state-of-the-art NCD methods. We start by formally defining the NCD problem and introducing important notions. We then give an overview of the different families of approaches, organized by the way they transfer knowledge from the labeled set to the unlabeled set. We find that they either learn in two stages, by first extracting knowledge from the labeled data only and then applying it to the unlabeled data, or in one stage by conjointly learning on both sets. For each family, we describe their general principle and detail a few representative methods. Then, we briefly introduce some new related tasks inspired by the increasing number of NCD works. We also present some common tools and techniques used in NCD, such as pseudo labeling, self-supervised learning and contrastive learning. Finally, to help readers unfamiliar with the NCD problem differentiate it from other closely related domains, we summarize some of the closest areas of research and discuss their main differences.

研究の動機と目的

• Novel Class Discovery（NCD）問題を形式的に定義し、その設定を明確にし、ゼロショット学習やオープンワールド学習といった関連分野と区別する。
• 知識の転送方法に基づき、既知クラスのラベル付きデータから未知クラスのラベルなしデータへと知識を伝達する仕組みに着目し、NCD手法を二段階および一括学習フレームワークに分類する。
• NCDで一般的に用いられるコア技術、たとえば疑似ラベル付け、自己教師あり学習、対照的学習の特定と説明を行う。
• NCDと類縁タスク（オープンセット認識、分布外検出、一般化カテゴリ発見）との違いを明確にする。
• 未解決の課題、特に統一されたベンチマークの必要性、自動的なクラスタ数推定、NCD手法の画像以外のデータタイプ（例：表形式データ、テキストデータ）への適応の必要性を強調する。

提案手法

• 知識の転送戦略に基づくNCD手法の分類法を提案：二段階（まず既知クラスから学習し、その後未知クラスに適用）と一括学習（両方のデータセットを同時に学習）の2つ。
• 各ファミリーに属する代表的手法をレビューし、ラベル付きデータを活用して未知クラスのラベルなしデータのクラスタリングを改善する仕組みを強調する。
• 疑似ラベル付け（ラベルなしデータに対するモデル予測を教師信号として使用）や特徴表現の向上に寄与する対照的学習といった主要技術を導入・説明する。
• 自己教師あり学習による事前学習を適用し、特に画像ベースのNCDにおいて特徴の質を向上させる。データオーグメンテーションと不変性学習を活用する。
• 意味的整合性が重要な状況では、グラフベースおよびスペクトルクラスタリングの原則を応用してクラスタ品質を向上させる。
• ベースラインとして二段階パイプラインを提案：まずオープンセット認識手法を用いて未知サンプルを検出し、その後NCD手法でクラスタリングを行う。

Figure 1: The open-world scenario, where new classes appear during inference.

実験結果

リサーチクエスチョン

• RQ1 Novel Class Discoveryは、ゼロショット学習、オープンワールド学習、分布外検出といった類縁パラダイムとどのように異なるか？
• RQ2 NCDにおける主な手法ファミリーは何か？ 二段階と一括学習アプローチの性能と過学習のリスクについて、どのように比較できるか？
• RQ3 自己教師あり学習および対照的学習技術は、未知クラス発見のための特徴表現をどの程度向上できるか？
• RQ4 NCD手法を表形式データやテキストデータといった非画像データに適応するにあたり、主な課題は何か？ また、現在の画像特化型技術をどのように一般化できるか？
• RQ5 未知クラスの数を自動的に推定するにはどうすればよく、この仮定がNCDのパフォーマンスに与える影響は何か？

主な発見

• 一括学習NCD手法が、二段階アプローチよりも過学習のリスクが低いため、初期の注目を博したものの、現在では主流に置き換わっている。
• 複雑なデータセットでは、クラスタ形状、類似度尺度、データ分布に関する仮定に依存するため、無教師クラスタリングだけでは不十分であり、しばしば画像の色といった意味的でない特徴でグループ化されてしまう。
• 自己教師あり学習および対照的学習技術は、画像ベースのNCDにおいて特徴表現を顕著に向上させ、未知クラスのクラスタリング精度を向上させる。
• 疑似ラベル付けは、一括学習NCDフレームワークにおいて極めて重要な要素であり、その正確性が全体のパフォーマンスに強く影響するため、より優れたラベル付け戦略の開発が余儀なくされている。
• 本分野は、データオーグメンテーションやCNNアーキテクチャといった画像特化型技術に依存しているため、主に画像データに集中しており、他のモodal（モダリティ）への拡張は限定的である。
• 統一されたベンチマークと標準化された評価プロトコルの導入が急務である。データセット分割やクラス分割の違いがNCD問題の難易度やモデル性能の比較に顕著な影響を与えるためである。

Figure 2: The Novel Class Discovery scenario, where both labeled data of known classes and unlabeled data of unknown classes are available during training.