[论文解读] Zero-shot Domain Adaptation without Domain Semantic Descriptors

Atsutoshi Kumagai, Tomoharu Iwata|arXiv (Cornell University)|Jul 9, 2018

Domain Adaptation and Few-Shot Learning参考文献 39被引用 16

一句话总结

本文提出了一种零样本域自适应方法，通过从测试域中未标注的特征向量集合中学习潜在域向量，无需依赖语义描述符即可推断未见域的特定模型。该方法采用深度集合架构与变分推断，实现了在多个数据集（包括 MNIST-r、IoT 和 School）上的最先进性能。

ABSTRACT

We propose a method to infer domain-specific models such as classifiers for unseen domains, from which no data are given in the training phase, without domain semantic descriptors. When training and test distributions are different, standard supervised learning methods perform poorly. Zero-shot domain adaptation attempts to alleviate this problem by inferring models that generalize well to unseen domains by using training data in multiple source domains. Existing methods use observed semantic descriptors characterizing domains such as time information to infer the domain-specific models for the unseen domains. However, it cannot always be assumed that such metadata can be used in real-world applications. The proposed method can infer appropriate domain-specific models without any semantic descriptors by introducing the concept of latent domain vectors, which are latent representations for the domains and are used for inferring the models. The latent domain vector for the unseen domain is inferred from the set of the feature vectors in the corresponding domain, which is given in the testing phase. The domain-specific models consist of two components: the first is for extracting a representation of a feature vector to be predicted, and the second is for inferring model parameters given the latent domain vector. The posterior distributions of the latent domain vectors and the domain-specific models are parametrized by neural networks, and are optimized by maximizing the variational lower bound using stochastic gradient descent. The effectiveness of the proposed method was demonstrated through experiments using one regression and two classification tasks.

研究动机与目标

• 解决现有零样本域自适应方法依赖时间、位置或设备等域语义描述符的局限性。
• 实现在训练阶段不使用任何目标域的有标签或无标签数据，实现对未见域的有效模型自适应。
• 提出一种方法，通过直接从测试阶段的特征分布中学习潜在表示，推断出特定于域的模型。
• 通过利用特征向量集合而非单个特征向量来推断域特征，克服因单一样本推断导致的不稳定性，实现更稳健的域表征。

提出的方法

• 引入潜在域向量作为解耦的、连续的域表征，无需语义描述符即可学习。
• 采用深度集合架构处理测试域中可变大小的未标注特征向量集合，实现对输入排列不变的处理。
• 使用两个神经网络：一个用于从输入样本中提取特征，另一个用于基于潜在域向量预测模型参数。
• 应用变分推断，联合估计潜在域向量和模型参数的后验分布，通过随机梯度下降在变分下界上进行优化。
• 使用神经网络对潜在域向量和模型参数的后验分布进行参数化，实现端到端学习。
• 利用贝叶斯框架提升泛化能力，尤其在源域数据有限时表现更优。

实验结果

研究问题

• RQ1 是否可以在不依赖任何域语义描述符的情况下，有效推断未见域的特定模型？
• RQ2 从特征向量集合中推导出的潜在域向量是否能比单一样本推断更准确地表征域特征？
• RQ3 潜在域向量的维度如何影响所提方法的性能？
• RQ4 源域数量如何影响该方法的零样本泛化能力？

主要发现

• 所提方法在所有三个数据集（MNIST-r、IoT 和 School）上均达到最先进性能，在所有测试场景中均优于现有方法。
• 在 MNIST-r 数据集上，所提方法显著优于所有基线方法，某些情况下准确率差距超过 10 个百分点。
• 在 IoT 数据集上，该方法在先前未见过的域（如 D-Doorbell 和 1002-sec camera）上性能大幅提升，同时在其他域上也保持了具有竞争力的结果。
• 在 School 数据集上，该方法在所有域覆盖比例（90%、85%、75%、50%）下均实现了 RMSE 的统计显著改善。
• 潜在域向量的后验分布始终按域特征（如旋转角度）有序排列，证实该方法捕捉到了有意义的域结构。
• 该方法在不同潜在维度值（K=2 至 K=10）下均保持稳定，且始终显著优于基线，表明贝叶斯框架具有良好的鲁棒性。