[论文解读] Grow and Merge: A Unified Framework for Continuous Categories Discovery

Xinwei Zhang, Jianwen Jiang+7 more|arXiv (Cornell University)|Oct 9, 2022

Text and Document Classification Technologies被引用 14

一句话总结

本文提出了一种统一框架 Grow and Merge (GM)，用于连续类别发现（CCD），其中未标注数据持续流入，系统必须在保持已知类别性能的同时发现新类别。GM 在自监督特征扩展（生长）与使用静态教师模型进行模型整合（合并）的阶段之间交替进行，显著优于当前最先进方法，遗忘现象减少，新类别发现准确率更高。

ABSTRACT

Although a number of studies are devoted to novel category discovery, most of them assume a static setting where both labeled and unlabeled data are given at once for finding new categories. In this work, we focus on the application scenarios where unlabeled data are continuously fed into the category discovery system. We refer to it as the {\bf Continuous Category Discovery} ({\bf CCD}) problem, which is significantly more challenging than the static setting. A common challenge faced by novel category discovery is that different sets of features are needed for classification and category discovery: class discriminative features are preferred for classification, while rich and diverse features are more suitable for new category mining. This challenge becomes more severe for dynamic setting as the system is asked to deliver good performance for known classes over time, and at the same time continuously discover new classes from unlabeled data. To address this challenge, we develop a framework of {\bf Grow and Merge} ({\bf GM}) that works by alternating between a growing phase and a merging phase: in the growing phase, it increases the diversity of features through a continuous self-supervised learning for effective category mining, and in the merging phase, it merges the grown model with a static one to ensure satisfying performance for known classes. Our extensive studies verify that the proposed GM framework is significantly more effective than the state-of-the-art approaches for continuous category discovery.

研究动机与目标

• 解决从持续流入的未标注数据流中发现新类别的现实世界挑战，该数据流包含已知和新类别。
• 克服已知类别判别特征与新类别发现所需多样化特征之间的权衡。
• 在长时间动态发现新类别的同时，保持对已知类别的高性能。
• 在未标注数据流的持续学习中缓解灾难性遗忘。
• 提出一个统一框架，整合自监督学习、模型融合与动态特征学习，用于 CCD。

提出的方法

• 框架在生长阶段交替进行：利用自监督学习（SimSiam、SimCLR）和伪标签的交叉熵损失，在未标注数据上训练模型，以增加特征多样性。
• 在合并阶段，通过加权平均（EMA）将生长后的模型与静态教师模型结合，以保持已知类别的性能。
• 采用静态-动态分支结构分离特征学习：静态分支保持已知类别的知识，动态分支探索新特征。
• 利用从新发现的类别中获取的伪标签样本以及少量真实标注的已知类别样本作为记忆，以稳定学习并减少遗忘。
• 模型在静态分支与动态分支的特征之间采用对比损失（$\mathcal{L}_{\text{SD}}$），在对齐知识的同时保持特征多样性。
• 在合并阶段引入筛选机制，对伪标签样本进行过滤与精炼，以提高鲁棒性与准确率。

实验结果

研究问题

• RQ1 统一框架能否在连续数据流中有效平衡已知类别的分类性能与新类别的发现？
• RQ2 如何系统性地提升特征多样性以促进新类别发现，同时不降低已知类别的性能？
• RQ3 将自监督学习与模型融合相结合，对缓解持续类别发现中的灾难性遗忘有何影响？
• RQ4 不同组件（如 EMA、对比损失、筛选机制）如何共同贡献于 GM 框架的整体性能？
• RQ5 在包含已知与未知类别的真实 CCD 场景中，所提出的框架是否优于现有方法？

主要发现

• GM 框架在测试集上达到 9.87 ± 0.25 的平均 F1 分数与 35.97 ± 1.28 的平均发现准确率，显著优于当前最先进基线方法。
• 消融实验表明，结合 EMA 与 $\mathcal{L}_{\text{SD}}$ 的方法相比仅使用 EMA，能实现更平滑的训练过程与更高的性能。
• 采用 WTA + $\mathcal{L}_{\text{SD}}$ + SimSiam 的生长阶段实现最佳平衡，发现准确率达到 34.81 ± 1.06。
• 采用 CE + 伪标签（PLL）的合并阶段在已知类别上表现最佳（F1 为 8.83 ± 0.30），优于其他合并策略。
• 若移除静态-动态分支结构或 $\mathcal{L}_{\text{SD}}$，性能显著下降，证实二者在特征对齐与稳定性中的关键作用。
• 合并阶段的筛选机制可提升鲁棒性，与无筛选相比，CCR 与 CR 变体将 F1 错误率降低最多达 1.5%。