[论文解读] ADRMX: Additive Disentanglement of Domain Features with Remix Loss

Berker Demirel, Erchan Aptoula+1 more|arXiv (Cornell University)|Aug 12, 2023

Respiratory viral infections researchMedicine被引用 3

一句话总结

ADRMX 提出了一种新颖的域泛化框架，通过加法分解解耦域不变特征与域变特征，从而在潜在空间中实现一种新型数据增强技术——'remix loss'，即混合来自不同域的特征。该方法在 DomainBed 基准测试的七个数据集上实现了 67.6% 的平均准确率，达到当前最先进水平。

ABSTRACT

The common assumption that train and test sets follow similar distributions is often violated in deployment settings. Given multiple source domains, domain generalization aims to create robust models capable of generalizing to new unseen domains. To this end, most of existing studies focus on extracting domain invariant features across the available source domains in order to mitigate the effects of inter-domain distributional changes. However, this approach may limit the model's generalization capacity by relying solely on finding common features among the source domains. It overlooks the potential presence of domain-specific characteristics that could be prevalent in a subset of domains, potentially containing valuable information. In this work, a novel architecture named Additive Disentanglement of Domain Features with Remix Loss (ADRMX) is presented, which addresses this limitation by incorporating domain variant features together with the domain invariant ones using an original additive disentanglement strategy. Moreover, a new data augmentation technique is introduced to further support the generalization capacity of ADRMX, where samples from different domains are mixed within the latent space. Through extensive experiments conducted on DomainBed under fair conditions, ADRMX is shown to achieve state-of-the-art performance. Code will be made available at GitHub after the revision process.

研究动机与目标

• 为通过超越域不变特征学习的模型泛化能力来应对现实部署中的域偏移问题。
• 克服现有域泛化方法将域特定特征视为噪声而丢弃的局限性。
• 利用域变特征作为互补信息以增强泛化能力。
• 提出一种新型数据增强技术——remix loss，通过在潜在空间中进行加法特征混合实现。
• 通过在 DomainBed 基准上的大量实验，验证加法解耦与 remix loss 的有效性。

提出的方法

• ADRMX 使用两个独立的主干网络，从输入图像中提取与标签相关和与域相关的特征。
• 在潜在空间中应用加法解耦策略，分离域不变与域变成分。
• 通过对抗训练确保解耦后的特征在不同域之间不可区分，同时保留标签信息。
• 引入一种新型数据增强技术——'remix loss'，通过简单加法将一个样本的域特征与同一类别另一样本的域不变特征进行组合。
• 原始样本与重混样本共用同一分类头，实现在无额外参数情况下的正则化。
• 使用对比损失以促进跨域的紧凑且鲁棒的特征表示。

实验结果

研究问题

• RQ1 在域泛化任务中，将域变特征与域不变特征结合是否能提升模型泛化能力？
• RQ2 加法解耦策略是否在特征学习方面优于传统解耦或对齐方法？
• RQ3 通过特征重混在潜在空间进行数据增强是否能增强对域偏移的鲁棒性？
• RQ4 与现有增强技术相比，所提出的 remix loss 在性能与泛化能力方面表现如何？
• RQ5 对比损失与域变特征预测在多大程度上促进了模型性能的提升？

主要发现

• ADRMX 在 DomainBed 基准测试的七个数据集上实现了 67.6% 的最先进平均准确率。
• 在 DomainNet 数据集上，即使不使用 remix loss，ADRMX 也优于 15 种评估方法中最强的基线方法 CORAL。
• remix loss 在 DomainNet 上带来了 0.7% 的性能提升，证明了其在数据增强中的有效性。
• 使用对比损失使性能提升了 1.21%，表明其在学习紧凑且可泛化特征方面的重要作用。
• 消融实验表明，始终在所有域中使用域变特征可使 DomainNet 上的性能提升 1.86%。
• UMAP 可视化结果证实，模型捕捉到了多模态数据结构，子簇表明了不同域特定模式的表示。