[论文解读] Towards Principled Disentanglement for Domain Generalization

Hanlin Zhang, Yifan Zhang+4 more|arXiv (Cornell University)|Nov 27, 2021

Domain Adaptation and Few-Shot Learning参考文献 66被引用 4

一句话总结

该论文提出DDG，一种用于域泛化的原则性解耦框架，将不变表示学习形式化为约束优化问题，通过原始-对偶优化联合训练语义编码器与变化编码器。DDG在无需域标签的情况下，通过解耦内在语义与干扰变化，实现了最先进（SOTA）的分布外（OOD）泛化性能，同时通过学习到的解耦因子实现无域依赖的数据增强。

ABSTRACT

A fundamental challenge for machine learning models is generalizing to out-of-distribution (OOD) data, in part due to spurious correlations. To tackle this challenge, we first formalize the OOD generalization problem as constrained optimization, called Disentanglement-constrained Domain Generalization (DDG). We relax this non-trivial constrained optimization problem to a tractable form with finite-dimensional parameterization and empirical approximation. Then a theoretical analysis of the extent to which the above transformations deviates from the original problem is provided. Based on the transformation, we propose a primal-dual algorithm for joint representation disentanglement and domain generalization. In contrast to traditional approaches based on domain adversarial training and domain labels, DDG jointly learns semantic and variation encoders for disentanglement, enabling flexible manipulation and augmentation on training data. DDG aims to learn intrinsic representations of semantic concepts that are invariant to nuisance factors and generalizable across domains. Comprehensive experiments on popular benchmarks show that DDG can achieve competitive OOD performance and uncover interpretable salient structures within data.

研究动机与目标

• 解决深度学习中由虚假相关性和域偏移导致的分布外（OOD）泛化性能差的问题。
• 基于语义与变化的解耦，将域泛化形式化为约束优化问题。
• 开发一种不依赖昂贵或不切实际的域标签的不变表示学习方法。
• 为所提出的优化变换近似质量提供理论保证。
• 通过解耦表示学习实现灵活的、无域依赖的数据增强。

提出的方法

• 将域泛化形式化为解耦约束优化问题（DDG），明确分离语义与变化。
• 通过有限维参数化与经验近似，将非平凡的约束问题松弛为可处理的形式。
• 提出一种原始-对偶算法，联合优化语义编码器与变化编码器，以强制实现解耦与不变性。
• 对语义编码器与变化编码器进行参数化，以建模域内与域间的变化，实现灵活的数据操作。
• 利用学习到的变化编码器通过组合语义与变化因子，生成无域依赖的数据增强。
• 对参数化差距与经验对偶差距进行理论分析，以界定近似误差。

实验结果

研究问题

• RQ1 能否将语义与变化的解耦正式表述为约束优化问题，以提升OOD泛化性能？
• RQ2 在实践中，松弛后的优化形式在多大程度上近似原始约束问题？
• RQ3 语义与变化编码器的联合学习框架是否在域泛化任务中优于域对抗或依赖域标签的方法？
• RQ4 解耦表示在多大程度上能实现有效且无域依赖的数据增强？
• RQ5 在标准化评估协议下，该方法是否在多样化基准上均实现一致的性能提升？

主要发现

• DDG在PACS数据集上达到最先进性能，平均准确率较MBDG高出3.1%（88.9% vs. 85.8%）
• 在PACS测试域S上，DDG达到84.3%的准确率，略低于MBDG的85.0%，但在所有域中仍具竞争力
• 除域S外，DDG在所有域上均持续优于MBDG及其变体（MBDG Reg），展现出对域偏移的鲁棒性
• 该方法通过学习到的解耦因子实现了有效且无域依赖的数据增强，无需梯度估计或领域特定知识
• 定性结果表明，DDG成功解耦了域内变化（如笔画粗细）与域间变化（如旋转角度）
• 通过插值与因子互换，模型生成了真实且多样的样本，证实了其强大的解耦性与泛化能力