[论文解读] A DIRT-T Approach to Unsupervised Domain Adaptation

Rui Shu, Hung Bui+2 more|arXiv (Cornell University)|Feb 23, 2018

Domain Adaptation and Few-Shot Learning参考文献 36被引用 293

一句话总结

本文提出 VADA 和 DIRT-T，两个模型利用聚类假设进行无监督领域自适应，在多个视觉和非视觉基准上达到最先进的结果。

ABSTRACT

Domain adaptation refers to the problem of leveraging labeled data in a source domain to learn an accurate model in a target domain where labels are scarce or unavailable. A recent approach for finding a common representation of the two domains is via domain adversarial training (Ganin & Lempitsky, 2015), which attempts to induce a feature extractor that matches the source and target feature distributions in some feature space. However, domain adversarial training faces two critical limitations: 1) if the feature extraction function has high-capacity, then feature distribution matching is a weak constraint, 2) in non-conservative domain adaptation (where no single classifier can perform well in both the source and target domains), training the model to do well on the source domain hurts performance on the target domain. In this paper, we address these issues through the lens of the cluster assumption, i.e., decision boundaries should not cross high-density data regions. We propose two novel and related models: 1) the Virtual Adversarial Domain Adaptation (VADA) model, which combines domain adversarial training with a penalty term that punishes the violation the cluster assumption; 2) the Decision-boundary Iterative Refinement Training with a Teacher (DIRT-T) model, which takes the VADA model as initialization and employs natural gradient steps to further minimize the cluster assumption violation. Extensive empirical results demonstrate that the combination of these two models significantly improve the state-of-the-art performance on the digit, traffic sign, and Wi-Fi recognition domain adaptation benchmarks.

研究动机与目标

• 在目标标签不可用且单一分类器可能无法同时对源域和目标域泛化的情况下，解决协变量漂移问题。
• 将基于聚类假设的约束融入领域自适应，以收紧假设空间，超越领域对抗训练。
• 开发一个改进过程（DIRT-T），进一步最小化目标域聚类假设的违反。
• 在包括数字、交通标志、通用对象和 Wi-Fi 活动识别等多样任务上展示经验收益。

提出的方法

• 提出 Virtual Adversarial Domain Adaptation (VADA) ，将领域对抗训练与聚类假设违反的惩罚以及目标数据上的条件熵损失相结合。
• 通过 Virtual Adversarial Training (VAT) 引入局部 Lipschitz 约束以稳定熵最小化。
• 以 VADA 为初始并执行 Decision-boundary Iterative Refinement Training (DIRT-T)，使用自然梯度步长进一步最小化目标域聚类违反。
• DIRT-T 使用教师-学生框架，其中先前的模型充当教师以约束更新，同时减少目标端聚类违反。
• 对 DIRT-T 的解释是将其看作一系列非保守的领域自适应步骤，其中在仅在目标域上细化时，领域对抗训练变得不再必要。

实验结果

研究问题

• RQ1 通过条件熵最小化强制聚类假设是否能在超越领域对抗训练的情况下改善领域自适应？
• RQ2 在初始 VADA 模型之后，最小化目标域聚类违反的改进过程是否能进一步提升性能？
• RQ3 VAT 和局部 Lipschitz 约束如何影响领域自适应中基于熵的聚类的稳定性与有效性？
• RQ4 VADA 与 DIRT-T 在多样领域自适配基准（数字、交通标志、CIFAR/STL-10、Wi-Fi）上的经验收益？

主要发现

• 通过将聚类假设惩罚与 VAT 结合，VADA 相较于先前的领域对抗方法取得改进，在多个基准上带来显著提升。
• DIRT-T 通过进一步降低目标域聚类违反，持续提升 VADA，在大多数任务上达到最先进的结果。
• DIRT-T 在从 MNIST 到 SVHN 的挑战性适配中，在若干设置中显著优于 ATT。
• 自然梯度步长在 DIRT-T 中有助于对决策边界的稳定且有效的细化。
• 在 Wi-Fi 活动识别中，VADA 明显超越 Source-Only 和 DANN；当目标聚类已较强时，DIRT-T 未必总是带来收益。