[论文解读] Generalized Category Discovery with Decoupled Prototypical Network

Wenbin An, Feng Tian+4 more|arXiv (Cornell University)|Nov 28, 2022

Text and Document Classification Technologies被引用 4

一句话总结

本文提出了一种新型框架——解耦原型网络（Decoupled Prototypical Network, DPN），用于广义类别发现任务。该方法通过原型的二分图匹配，将已知类别与新类别的学习过程解耦，实现显式的类别特定知识迁移，并通过语义感知的软分配机制减少伪标签噪声。DPN 在多个基准测试中实现了最先进性能，通过提升已知类别与新类别的特征可分性与泛化能力，显著优化了模型表现。

ABSTRACT

Generalized Category Discovery (GCD) aims to recognize both known and novel categories from a set of unlabeled data, based on another dataset labeled with only known categories. Without considering differences between known and novel categories, current methods learn about them in a coupled manner, which can hurt model's generalization and discriminative ability. Furthermore, the coupled training approach prevents these models transferring category-specific knowledge explicitly from labeled data to unlabeled data, which can lose high-level semantic information and impair model performance. To mitigate above limitations, we present a novel model called Decoupled Prototypical Network (DPN). By formulating a bipartite matching problem for category prototypes, DPN can not only decouple known and novel categories to achieve different training targets effectively, but also align known categories in labeled and unlabeled data to transfer category-specific knowledge explicitly and capture high-level semantics. Furthermore, DPN can learn more discriminative features for both known and novel categories through our proposed Semantic-aware Prototypical Learning (SPL). Besides capturing meaningful semantic information, SPL can also alleviate the noise of hard pseudo labels through semantic-weighted soft assignment. Extensive experiments show that DPN outperforms state-of-the-art models by a large margin on all evaluation metrics across multiple benchmark datasets. Code and data are available at https://github.com/Lackel/DPN.

研究动机与目标

• 为解决现有方法将已知类别与新类别学习过程耦合所带来的泛化能力差与类别特定知识丢失的问题。
• 通过跨数据集的原型对齐，显式地将已知类别中的类别特定知识迁移至未标注数据。
• 通过原型匹配实现已知类别与新类别的解耦，使两者在未标注数据中拥有独立的训练目标。
• 通过语义感知的软分配机制提升特征可分性，并减少伪标签带来的噪声。
• 提升模型在不同已知类别比例与类别数量估计任务下的鲁棒性与性能。

提出的方法

• 使用匈牙利算法建立已标注与未标注类别原型之间的二分图匹配问题，以对齐已知类别并识别新类别。
• 利用原型对齐实现从已标注数据到未标注数据的显式、类别特定的知识迁移，且无需引入额外参数。
• 提出语义感知原型学习（Semantic-aware Prototypical Learning, SPL），通过语义相似性权重将样本分配至原型，降低硬伪标签带来的噪声。
• 应用指数移动平均（Exponential Moving Average, EMA）迭代更新已标注原型，稳定表示学习并提升泛化能力。
• 利用基于原型的软分配机制捕捉高层语义信息，增强已知类别与新类别特征的可分性。
• 采用 DAC 算法估计类别数量，DPN 展现出更优的表示质量，从而提升估计性能。

实验结果

研究问题

• RQ1 解耦已知类别与新类别的学习过程，是否能提升广义类别发现中模型的泛化能力与可分性？
• RQ2 如何在不依赖隐式特征迁移的前提下，显式地将类别特定知识从已标注数据迁移至未标注数据？
• RQ3 语义感知的软分配在多大程度上能降低无监督类别发现中噪声伪标签的影响？
• RQ4 基于原型的二分图匹配在对齐已标注与未标注数据中已知类别原型方面有多高效？
• RQ5 模型在不同已知类别比例下以及在估计真实类别数量时表现如何？

主要发现

• DPN 在 CLINC、BANKING 与 StackOverflow 数据集上的所有评估指标中均优于当前最先进模型，展现出更优的泛化能力与鲁棒性。
• 消融实验表明，若移除解耦机制或软分配策略，性能显著下降，证实二者在降噪与知识迁移中的关键作用。
• 类别数量估计误差更低（CLINC 上为 8.7%，BANKING 上为 13.0%，StackOverflow 上为 10.0%），优于 DAC，表明其表示质量更优。
• t-SNE 可视化显示，与基线方法相比，DPN 学习到的特征嵌入更具可分性与判别性。
• 热力图显示，该对齐策略能有效匹配已标注与未标注数据中已知类别的原型。
• 在不同已知类别比例（0.25、0.50、0.75）下，模型均保持强劲性能，证实其对数据分布偏移具有鲁棒性。