[论文解读] Continual Test-Time Domain Adaptation

Qin Wang, Olga Fink+2 more|arXiv (Cornell University)|Mar 25, 2022

Domain Adaptation and Few-Shot Learning被引用 5

一句话总结

该论文提出 CoTTA，一种持续测试时域自适应方法，通过使用加权平均和增强平均的伪标签来提升预测质量，减轻错误累积和灾难性遗忘，同时通过随机恢复部分网络权重至源预训练值来保留先验知识。CoTTA 在四个分类和一个分割基准上达到最先进性能，在 ImageNet-C 上相比 TENT 实现 29.1% 的错误率降低（63.0% vs. 66.5%），在 Cityscapes-to-ACDC 上实现 1.9% 的 mIoU 提升。

ABSTRACT

Test-time domain adaptation aims to adapt a source pre-trained model to a target domain without using any source data. Existing works mainly consider the case where the target domain is static. However, real-world machine perception systems are running in non-stationary and continually changing environments where the target domain distribution can change over time. Existing methods, which are mostly based on self-training and entropy regularization, can suffer from these non-stationary environments. Due to the distribution shift over time in the target domain, pseudo-labels become unreliable. The noisy pseudo-labels can further lead to error accumulation and catastrophic forgetting. To tackle these issues, we propose a continual test-time adaptation approach~(CoTTA) which comprises two parts. Firstly, we propose to reduce the error accumulation by using weight-averaged and augmentation-averaged predictions which are often more accurate. On the other hand, to avoid catastrophic forgetting, we propose to stochastically restore a small part of the neurons to the source pre-trained weights during each iteration to help preserve source knowledge in the long-term. The proposed method enables the long-term adaptation for all parameters in the network. CoTTA is easy to implement and can be readily incorporated in off-the-shelf pre-trained models. We demonstrate the effectiveness of our approach on four classification tasks and a segmentation task for continual test-time adaptation, on which we outperform existing methods. Our code is available at \url{https://qin.ee/cotta}.

研究动机与目标

• 解决现有测试时域自适应方法在持续变化、非平稳环境中因域分布随时间漂移而导致的不稳定性问题。
• 减少因流式测试数据中分布漂移导致的噪声和校准错误的伪标签所引发的错误累积。
• 在无法访问源数据的情况下，防止长期在线自适应过程中对源知识的灾难性遗忘。
• 仅使用无标签目标数据，实现对所有网络参数（而不仅是批归一化统计量）的持续自适应。
• 开发一种即插即用的方法，兼容现成的预训练模型，无需在源数据上微调。

提出的方法

• 使用动量平均的教师网络生成更准确的伪标签，通过类似集成的预测稳定性减少错误累积。
• 对高域差距样本应用增强平均预测，以在挑战性测试条件下进一步提升伪标签质量。
• 引入随机权重恢复机制，定期将一小部分神经元权重恢复至其源预训练值，以保留源知识。
• 在单一在线学习框架中结合上述两种策略，仅使用无标签目标数据实时更新模型参数。
• 采用简单而有效的训练循环，集成权重平均与增强平均，无需架构修改。
• 不依赖特定层（如批归一化），因此适用于包括 Transformer 和使用 LayerNorm 的模型在内的多种架构。

实验结果

研究问题

• RQ1 自训练方法在测试时域自适应中能否在持续非平稳域漂移下保持稳定？
• RQ2 在随时间推移域差距和分布漂移逐渐增大的情况下，如何提升伪标签质量？
• RQ3 在长期在线自适应过程中，哪些机制能有效防止源知识的灾难性遗忘？
• RQ4 能否设计一种即插即用的方法，在无源数据访问条件下自适应所有网络参数？
• RQ5 所提方法在包括分割任务和复杂架构在内的多样化基准上表现如何？

主要发现

• 在 ImageNet-to-ImageNet-C 严重程度等级 5 的设置下，CoTTA 的平均错误率为 63.0% ± 1.8，优于 TENT 的 66.5%，降低 3.5 个百分点。
• 在 ImageNet-C 的渐进性损坏设置中，CoTTA 将错误率降低至 10.4%，远低于 TENT 的 30.7%，表明对缓慢分布漂移具有强鲁棒性。
• 在 CIFAR100-to-CIFAR100C 上，CoTTA 相比 BN 统计量自适应方法提升 2.9%，且性能随时间保持稳定，表明具备有效长期学习能力。
• 在 Cityscapes-to-ACDC 语义分割任务中，CoTTA 达到 58.6% 的 mIoU，相比基线提升 1.9% 的绝对值，且优于 TENT 和 BN 统计量自适应方法。
• 该方法在多种架构上均有效，包括使用 LayerNorm 的 Segformer，表明其不限于具有批归一化层的模型。
• 性能随时间持续提升，表明 CoTTA 有效利用历史无标签数据改善当前预测。