[论文解读] Homogeneous Online Transfer Learning with Online Distribution Discrepancy Minimization

Yuntao Du, Zhiwen Tan+3 more|arXiv (Cornell University)|Dec 31, 2019

Domain Adaptation and Few-Shot Learning参考文献 19被引用 8

一句话总结

本文提出 HomOTL-ODDM，一种新型在线迁移学习方法，通过联合减少边际分布与条件分布差异，实现在线特征变换以最小化在线分布差异。通过采用 Hedge 策略利用多个源域，并基于有标签的目标数据动态更新变换矩阵，该方法在固定变换基线基础上实现了平均错误率降低 4.28%，达到最先进性能。

ABSTRACT

Transfer learning has been demonstrated to be successful and essential in diverse applications, which transfers knowledge from related but different source domains to the target domain. Online transfer learning(OTL) is a more challenging problem where the target data arrive in an online manner. Most OTL methods combine source classifier and target classifier directly by assigning a weight to each classifier, and adjust the weights constantly. However, these methods pay little attention to reducing the distribution discrepancy between domains. In this paper, we propose a novel online transfer learning method which seeks to find a new feature representation, so that the marginal distribution and conditional distribution discrepancy can be online reduced simultaneously. We focus on online transfer learning with multiple source domains and use the Hedge strategy to leverage knowledge from source domains. We analyze the theoretical properties of the proposed algorithm and provide an upper mistake bound. Comprehensive experiments on two real-world datasets show that our method outperforms state-of-the-art methods by a large margin.

研究动机与目标

• 解决在线迁移学习中源域与目标域之间存在较大分布差异的挑战。
• 开发一种方法，在线同时减少边际与条件分布差异。
• 通过动态加权与特征空间适配，利用多个源域的知识提升迁移性能。
• 为所提算法提供基于错误边界理论保证。
• 在真实数据集中实证验证在线变换矩阵更新与参数敏感性的有效性。

提出的方法

• 该方法使用线性特征变换，将源域与目标域数据映射到新空间，以最小化域间差异。
• 在变换空间中联合最小化边际与条件分布差异，采用最大均值差异（MMD）度量。
• 采用 Hedge 策略，根据各源域分类器的性能动态分配权重。
• 利用有标签的目标实例在线更新变换矩阵，随时间自适应减少分布差异。
• 算法维护一个时间窗口 $ T_w $，以控制矩阵更新频率，平衡效率与适应性。
• 推导理论错误边界，用于分析所提方法的泛化性能。

实验结果

研究问题

• RQ1 在线分布差异最小化是否能提升多源在线迁移学习中的迁移性能？
• RQ2 动态更新特征变换矩阵如何影响域差异与分类准确率？
• RQ3 同时减少边际与条件分布差异是否能带来比现有方法更优的泛化性能？
• RQ4 该方法性能对超参数 $ C $ 与 $ T_w $ 的敏感性如何？
• RQ5 在真实世界的跨域分类任务中，该方法是否能超越最先进基线？

主要发现

• HomOTL-ODDM 显著优于最先进方法，在固定变换变体基础上实现平均错误率降低 4.28%。
• 该方法在所有评估数据集（包括 PIE1 与 Amazon）上均表现最佳，且随时间推移保持更低的在线错误率。
• 利用在线有标签数据更新变换矩阵，可生成更有效且鲁棒的特征表示，更有效地降低域差异。
• 当域差异较大时，HomOTL-ODDM 展现出更大的迁移性能提升，表明其在严重分布偏移下的有效性。
• 该方法对超参数选择具有鲁棒性，最优性能在 $ C > 2 $ 且 $ T_w \in [30, 200] $ 范围内实现，证实其实际稳定性。
• 随着处理的目标数据增多，通过聚合 MMD 测量的域差异随时间减小，验证了在线差异最小化的有效性。