[论文解读] Continuous Domain Adaptation with Variational Domain-Agnostic Feature Replay

Qicheng Lao, Xiang Jiang+2 more|arXiv (Cornell University)|Mar 9, 2020

Domain Adaptation and Few-Shot Learning参考文献 51被引用 29

一句话总结

本文提出了一种变分域无关特征回放框架，用于连续域适应，解决了非平稳环境中任务漂移和域漂移的双重挑战。通过推理模块将输入过滤为域无关特征，利用变分生成模块生成可迁移的知识，并通过求解器应用该知识，该方法在流式数据上实现了鲁棒的持续学习，提升了泛化能力并减轻了灾难性遗忘。

ABSTRACT

Learning in non-stationary environments is one of the biggest challenges in machine learning. Non-stationarity can be caused by either task drift, i.e., the drift in the conditional distribution of labels given the input data, or the domain drift, i.e., the drift in the marginal distribution of the input data. This paper aims to tackle this challenge in the context of continuous domain adaptation, where the model is required to learn new tasks adapted to new domains in a non-stationary environment while maintaining previously learned knowledge. To deal with both drifts, we propose variational domain-agnostic feature replay, an approach that is composed of three components: an inference module that filters the input data into domain-agnostic representations, a generative module that facilitates knowledge transfer, and a solver module that applies the filtered and transferable knowledge to solve the queries. We address the two fundamental scenarios in continuous domain adaptation, demonstrating the effectiveness of our proposed approach for practical usage.

研究动机与目标

• 解决非平稳环境中持续学习的挑战，其中支持集和查询集流中同时发生任务漂移（P(Y|X) 的变化）和域漂移（P(X) 的变化）。
• 通过将学习到的知识过滤为域无关、可迁移的表征，实现在云环境AI系统中的知识保留与迁移。
• 通过回放高层抽象特征而非原始数据，减轻灾难性遗忘，模拟人类的知识抽象能力。
• 在两种基础场景下验证该方法：查询流中存在任务漂移的连续域适应，以及查询流中存在域漂移的连续域适应。
• 探索生成式特征回放作为数据增强手段，以提升连续域适应中模型泛化能力的潜力。

提出的方法

• 推理模块通过最小化输入与特征之间的互信息，将输入数据转换为域无关特征，同时利用标签监督保留与任务相关的信息。
• 生成模块学习域无关特征上的变分后验分布，从而合成可用于回放的、可迁移的知识，以应对过去域的分布。
• 求解器模块将过滤后的和生成的域无关特征应用于新到达的查询数据，以预测标签，最大化特征与标签之间的互信息。
• 该框架采用变分信息瓶颈目标，平衡特征压缩与预测性能，瓶颈约束作用于解码后的特征，而非潜在编码。
• 知识回放发生在特征层面，而非数据层面，实现选择性、抽象化的回放，避免灾难性遗忘的同时保持泛化能力。
• 该方法无需对查询数据施加额外正则化，且不依赖于域转移模式的假设，具备广泛适用性。

实验结果

研究问题

• RQ1 变分域无关特征回放机制是否能有效缓解在任务漂移与域漂移并存的持续学习中的灾难性遗忘？
• RQ2 当应用于具有演化域与任务的流式数据时，所提方法的泛化能力如何？
• RQ3 生成式特征回放在多大程度上可作为数据增强手段，以提升连续域适应中模型的泛化能力？
• RQ4 将知识过滤为域无关表征是否能增强在多样化、非平稳环境中的可迁移性与鲁棒性？
• RQ5 与在数据或激活层面操作的现有基于回放的持续学习方法相比，该方法表现如何？

主要发现

• 在 Pr → Cl 场景中，该方法准确率提升 1.89%，在 Pr → Ar 场景中同样提升 1.89%，表明在不同漂移类型下均具有一致的性能增益。
• 生成式特征回放机制起到正则化作用，在训练过程中通过提供增强的、域无关的特征样本，改善了泛化能力。
• 该方法通过保留抽象的、可迁移的知识，而非原始数据或激活值，有效减轻了灾难性遗忘。
• 推理模块与求解器模块之间的协同作用形成功能性信息瓶颈，增强了特征解耦与预测性能。
• 该方法在无需假设域转移模式或查询数据结构的前提下，可在多样化、非平稳环境中良好泛化。
• 结果表明，在流式、基于云的AI系统中，高层特征回放比数据级回放更有效于持续适应。