[论文解读] CSI: Novelty Detection via Contrastive Learning on Distributionally Shifted Instances

Jihoon Tack, Sangwoo Mo+2 more|arXiv (Cornell University)|Jul 16, 2020

Anomaly Detection Techniques and Applications参考文献 79被引用 230

一句话总结

CSI 在对比学习中引入对比移位实例，以提升新颖性（OOD）检测和置信度校准，在单类、多类和有监督设置下取得了最先进的结果。

ABSTRACT

Novelty detection, i.e., identifying whether a given sample is drawn from outside the training distribution, is essential for reliable machine learning. To this end, there have been many attempts at learning a representation well-suited for novelty detection and designing a score based on such representation. In this paper, we propose a simple, yet effective method named contrasting shifted instances (CSI), inspired by the recent success on contrastive learning of visual representations. Specifically, in addition to contrasting a given sample with other instances as in conventional contrastive learning methods, our training scheme contrasts the sample with distributionally-shifted augmentations of itself. Based on this, we propose a new detection score that is specific to the proposed training scheme. Our experiments demonstrate the superiority of our method under various novelty detection scenarios, including unlabeled one-class, unlabeled multi-class and labeled multi-class settings, with various image benchmark datasets. Code and pre-trained models are available at https://github.com/alinlab/CSI.

研究动机与目标

• 在仅有分布内数据可用时，推动稳健的 OOD/新颖性检测。
• 学习专门用于区分分布内与分布外的判别表示。
• 开发一个利用 CSI 训练表征的检测分数。
• 将 CSI 扩展到在有监督设置中训练置信度已校准的分类器。

提出的方法

• 以 SimCLR 风格的对比学习为基础。
• 通过将分布移位的增强视为负样本，引入对比移位实例（con-SI）。
• 增加一个辅助任务来分类应用了哪种移位变换（cls-SI）。
• 用组合的 CSI 目标进行训练：L_CSI = L_con-SI + lambda * L_cls-SI (lambda = 1)。
• 定义结合基于表征的特征（cosine 相似度、范数）和移位实例信息（s_con-SI、s_cls-SI）的 OOD 检测分数。
• 可选地对随机增强 T(x) 的分数进行集成，得到 s_CSI-ens。

实验结果

研究问题

• RQ1 如何通过对比学习学习表征以改进对分布外样本的检测？
• RQ2 分布移位的增强能否作为对 OOD 检测有信息量的负样本？
• RQ3 哪些分数函数最有效利用 CSI 表征进行 OOD 检测和校准？
• RQ4 CSI 是否可扩展到在有监督设置中训练置信度已校准的分类器？
• RQ5 哪些移位变换（如旋转、高斯噪声）能在不同数据集上最大化 OOD 检测性能？

主要发现

• CSI 在单类 CIFAR-10、CIFAR-100 和 ImageNet-30 上，在多种 OOD 设置中均优于基线。
• 将分布移位变换用作负样本（con-SI）显著提升 OOD 检测，即使用于分类的标准表征保持不变。
• 辅助移位实例分类器（cls-SI）和组合 CSI 分数（s_CSI）提供的 OOD 分数强于基础对比方法。
• 对移位和增强进行 CSI 分数的集成进一步提升 AUROC 和校准指标。
• 在有监督设置中，CSI-ens 提升 AUROC 并降低期望校准误差（ECE），同时维持或提升准确率。