[论文解读] Efficient Learning of Domain-invariant Image Representations

Judy Hoffman, Erik Rodner+3 more|arXiv (Cornell University)|Jan 15, 2013

Domain Adaptation and Few-Shot Learning参考文献 26被引用 149

一句话总结

本文提出最大边缘域变换（MMDT），一种联合学习线性特征变换与分类器的方法，以将目标域特征对齐至源域，实现多类别、可扩展的域自适应。MMDT通过直接优化分类损失，同时支持向新类别和异质特征空间的迁移，在准确率和效率方面优于先前方法，尤其在大规模数据集上表现更优。

ABSTRACT

We present an algorithm that learns representations which explicitly compensate for domain mismatch and which can be efficiently realized as linear classifiers. Specifically, we form a linear transformation that maps features from the target (test) domain to the source (training) domain as part of training the classifier. We optimize both the transformation and classifier parameters jointly, and introduce an efficient cost function based on misclassification loss. Our method combines several features previously unavailable in a single algorithm: multi-class adaptation through representation learning, ability to map across heterogeneous feature spaces, and scalability to large datasets. We present experiments on several image datasets that demonstrate improved accuracy and computational advantages compared to previous approaches.

研究动机与目标

• 解决图像分类中的域偏移问题，即训练（源）域与测试（目标）域之间特征分布存在差异。
• 克服先前方法无法泛化至目标域中无标签或新类别的问题。
• 开发一种可扩展、高效的算法，支持多类别自适应与异质特征空间。
• 在特征变换学习过程中，实现对最大边缘分类器目标的直接优化。
• 通过避免二次约束增长，确保大规模数据集下的计算效率。

提出的方法

• MMDT 学习一个非对称的线性变换矩阵 W，将目标域特征映射至与源域对齐的域不变空间。
• 该方法使用基于误分类误差的单一统一损失函数，联合优化 W 与分类器参数。
• 它用基于超平面的约束替代相似性约束（如 ARC-t 中所用），降低训练复杂度，并实现与数据集规模的线性缩放。
• 该算法支持在异质特征空间之间进行特征映射，允许源域与目标域具有不同的维度。
• MMDT 设计为线性空间高效，适用于大规模数据集，且可核化以实现非线性自适应。
• 该框架支持将域不变偏移（如光照、噪声）迁移至目标域中的有标签与无标签类别。

实验结果

研究问题

• RQ1 联合优化特征变换与分类器学习是否能提升多类别域自适应的准确率？
• RQ2 该方法是否能在无需目标域中标签示例的情况下，泛化至新类别（无标签）？
• RQ3 与现有方法相比，该方法在大规模数据集上的扩展效率是否更高，尤其是当约束数量呈二次增长时？
• RQ4 该算法是否能在保持高分类性能的同时，处理异质特征空间？
• RQ5 与基于相似性的特征学习相比，直接优化最大边缘目标是否能带来更高的准确率？

主要发现

• 在 Office 和 Bing 等标准基准数据集上，MMDT 的多类别准确率高于其他竞争方法，包括 GFK 和 ARC-t 等核化方法。
• 在 Office 数据集上，MMDT 在 amazon→dslr 和 webcam→dslr 域偏移任务中，均优于 SVM 基线和 ARC-t。
• 在 webcam→dslr 偏移任务中，MMDT 展现出对标准 SVM 的适应性优势，尤其在目标域标签数据有限时更为显著。
• MMDT 的训练时间随数据集规模线性增长，而 ARC-t 的约束数量呈二次增长，因此在大规模数据集上训练速度显著更快。
• 在训练时间对比中，MMDT 优于 ARC-t，且与 GFK 竞争力相当，同时实现了更高的准确率。
• 该方法成功将域不变特征泛化至新类别，即使在目标域中无任何标签示例的情况下也有效。