[论文解读] Continuous Transfer Learning with Label-informed Distribution Alignment

Jun Wu, Jingrui He|arXiv (Cornell University)|Jun 5, 2020

Domain Adaptation and Few-Shot Learning参考文献 34被引用 6

一句话总结

本文提出 TransLATE，一种连续迁移学习框架，利用标签感知的 C-散度来衡量领域差异并缓解时间演化目标领域中的负迁移。通过在潜在空间中最小化分类误差和 C-散度，TransLATE 提升了在演化数据上的预测性能，实证结果表明其相比基线方法能有效减少负迁移并实现更好的泛化能力。

ABSTRACT

Transfer learning has been successfully applied across many high-impact applications. However, most existing work focuses on the static transfer learning setting, and very little is devoted to modeling the time evolving target domain, such as the online reviews for movies. To bridge this gap, in this paper, we study a novel continuous transfer learning setting with a time evolving target domain. One major challenge associated with continuous transfer learning is the potential occurrence of negative transfer as the target domain evolves over time. To address this challenge, we propose a novel label-informed C-divergence between the source and target domains in order to measure the shift of data distributions as well as to identify potential negative transfer. We then derive the error bound for the target domain using the empirical estimate of our proposed C-divergence. Furthermore, we propose a generic adversarial Variational Auto-encoder framework named TransLATE by minimizing the classification error and C-divergence of the target domain between consecutive time stamps in a latent feature space. In addition, we define a transfer signature for characterizing the negative transfer based on C-divergence, which indicates that larger C-divergence implies a higher probability of negative transfer in real scenarios. Extensive experiments on synthetic and real data sets demonstrate the effectiveness of our TransLATE framework.

研究动机与目标

• 为解决连续迁移学习中目标领域随时间演化时出现的负迁移挑战。
• 构建一个理论框架，利用新型标签感知领域差异度量来界定目标领域误差的上界。
• 提出一种通用的对抗性变分自编码器框架（TransLATE），以对齐连续时间戳之间的标签感知分布。
• 基于 C-散度定义一种迁移特征签名，用于在实践中表征和检测负迁移。
• 在标签资源有限的条件下，实证验证 TransLATE 在缓解负迁移方面的有效性。

提出的方法

• 提出一种标签感知的 C-散度度量方法，用于量化源域与演化目标域之间的领域差异，将标签信息整合到分布对齐过程中。
• 基于 C-散度的经验估计，推导出连续迁移学习的目标误差上界，建立领域差异与目标误差之间的关联。
• 开发 TransLATE，一种变分自编码器框架，通过在潜在空间中最小化连续目标时间戳之间的分类误差与 C-散度。
• 在标签信息稀缺时，对未标注的目标数据使用伪标签，实现在无真实标签的情况下估计 C-散度。
• 提出一种基于 C-散度的迁移特征签名，用于检测负迁移的高风险场景。
• 采用 t-SNE 可视化方法，展示潜在空间中类间可分性提升与标签感知分布对齐效果。

实验结果

研究问题

• RQ1 如何在考虑标签信息的前提下，度量时间演化目标领域中的领域差异，以防止负迁移？
• RQ2 在使用标签感知差异度量时，能否为连续迁移学习中的目标领域误差建立理论边界？
• RQ3 一种通用的对抗性变分自编码器框架能否有效对齐演化领域中连续时间戳之间的标签感知分布？
• RQ4 目标领域中标签资源有限如何影响负迁移风险？是否可通过 C-散度缓解该风险？
• RQ5 与无监督领域差异相比，所提出的 C-散度在真实世界和合成设置中能在多大程度上提升迁移性能？

主要发现

• 在演化目标领域上，TransLATE 显著优于 DANN 和 WDGRL 等基线方法，在标签资源有限时表现尤为突出。
• 有限目标标签的使用可减少负迁移，实证显示半监督设置下的性能优于无监督设置。
• 基于 C-散度的对齐方法显著提升了潜在空间中的特征可分性与分布匹配度，t-SNE 可视化结果验证了这一点。
• 基于 C-散度的迁移特征签名能有效识别负迁移的高风险场景，C-散度越高，性能下降的可能性越大。
• 在 SVHN 到 MNIST 旋转基准任务中，即使目标分布随时间演化，TransLATE_d 的性能仍优于 SourceOnly 及其他迁移学习基线方法。
• 实证结果表明，同时最小化分类误差与 C-散度可显著降低目标误差，验证了理论误差边界的正确性。