[论文解读] Domain2Vec: Deep Domain Generalization

Aniket Anand Deshmukh, Ankit Bansal+1 more|arXiv (Cornell University)|Jul 9, 2018

Domain Adaptation and Few-Shot Learning参考文献 17被引用 4

一句话总结

Domain2Vec (D2V) 提出了一种深度神经网络架构，通过建模数据分布的统计特征来学习特定领域的嵌入表示，随后将这些嵌入与输入特征结合，以提升零样本域泛化性能。在 VLCS 等图像分类基准上，其表现优于当前最先进方法，在留一域排除评估中达到 70.82% 的平均准确率。

ABSTRACT

We address the problem of domain generalization where a decision function is learned from the data of several related domains, and the goal is to apply it on an unseen domain successfully. It is assumed that there is plenty of labeled data available in source domains (also called as training domain), but no labeled data is available for the unseen domain (also called a target domain or test domain). We propose a novel neural network architecture, Domain2Vec (D2V) that learns domain-specific embedding and then uses this embedding to generalize the learning across related domains. The proposed algorithm, D2V extends the idea of distribution regression and kernelized domain generalization to the neural networks setting. We propose a neural network architecture to learn domain-specific embedding and then use this embedding along with the data point specific features to label it. We show the effectiveness of the architecture by accurately estimating domain to domain similarity. We evaluate our algorithm against standard domain generalization datasets for image classification and outperform other state of the art algorithms.

研究动机与目标

• 解决领域泛化挑战，即模型需在无任何标注训练数据的情况下对未见领域的数据进行分类。
• 学习鲁棒的、与领域相关的表征，以捕捉多个源领域之间的潜在分布差异。
• 通过在统一的神经网络框架中将数据点特征与学习到的领域嵌入相结合，提升泛化性能。
• 证明学习到的领域嵌入能准确反映真实领域相似性，从而实现对未见领域的更好迁移。
• 将分布回归与核化领域泛化思想扩展至端到端训练的深度神经网络设置。

提出的方法

• 提出一种双流神经网络架构：主网络从边缘数据分布中学习领域特定嵌入，任务网络则为每个领域学习分类器权重。
• 使用输入数据分布的统计矩或经验特征函数作为领域嵌入，随后与输入特征拼接。
• 端到端训练模型，以最小化在扩展特征空间 $\mathcal{X} \times \mathcal{P}_{\mathcal{X}}$ 上的期望分类损失，其中 $\mathcal{P}_{\mathcal{X}}$ 表示每个领域的经验分布。
• 通过主网络与任务网络之间的共享表征，实现知识迁移并提升跨领域的泛化能力。
• 使用 RBF 核估计领域相似性：$\exp(-\|d_p - d_q\|^2 / \sigma^2)$，其与合成实验中真实的角度相似性高度相关。
• 采用随机搜索优化超参数，包括学习率、隐藏单元数量以及两个网络的权重衰减。

实验结果

研究问题

• RQ1 深度神经网络能否学习到有意义的、能捕捉多个源领域间分布差异的领域特定嵌入？
• RQ2 将学习到的领域嵌入与输入特征结合，是否能提升对未见目标领域的零样本泛化性能？
• RQ3 与真实分布差异相比，学习到的领域嵌入在多大程度上反映了真实的领域相似性？
• RQ4 所提出的架构是否能在领域泛化基准测试中超越现有最先进方法？
• RQ5 该模型对训练领域数量和每个领域样本数量的变化是否具有鲁棒性？

主要发现

• 在二维合成数据集上，Domain2Vec 将分类准确率从 73%（池化神经网络）提升至 96%，通过学习反映真实领域相似性的领域嵌入。
• 学习到的领域嵌入与真实领域相似性（基于旋转角度）表现出强相关性，这一结果通过热力图对比得到验证。
• 在 VLCS 基准上采用留一域排除评估，Domain2Vec 达到 70.82% 的平均准确率，优于所有基线方法，包括 L-SVM（59.63%）、1 HNN（65.46%）和 D-MTAE（69.65%）。
• 随着训练领域数量和每个领域样本数量的增加，性能持续提升，表明其具备良好的可扩展性与数据效率。
• 当在 VOC2007、LabelMe 和 SUN09 上训练时，该模型在 Caltech-101 目标领域上达到 92.50% 的准确率，优于次优方法 D-MTAE（92.43%）。
• 在 VLCS 的所有四个目标领域上，该架构均表现出一致的性能提升，其中在 SUN09 目标领域上的提升最为显著（62.02% vs. D-MTAE 的 61.85%）。