[论文解读] Controllable Invariance through Adversarial Feature Learning

Qizhe Xie, Zihang Dai+3 more|arXiv (Cornell University)|May 31, 2017

Adversarial Robustness in Machine Learning参考文献 18被引用 60

一句话总结

本文提出一个通用对抗框架，通过在编码器、判别器和预测器之间的三方极小极大博弈学习对任务相关信息 y 保持的同时，得到对指定属性 s 不变的表征。它给出理论均衡分析，并在公平分类、语言无关生成、以及照明无关的图像分类等方面展示了更好的泛化能力。

ABSTRACT

Learning meaningful representations that maintain the content necessary for a particular task while filtering away detrimental variations is a problem of great interest in machine learning. In this paper, we tackle the problem of learning representations invariant to a specific factor or trait of data. The representation learning process is formulated as an adversarial minimax game. We analyze the optimal equilibrium of such a game and find that it amounts to maximizing the uncertainty of inferring the detrimental factor given the representation while maximizing the certainty of making task-specific predictions. On three benchmark tasks, namely fair and bias-free classification, language-independent generation, and lighting-independent image classification, we show that the proposed framework induces an invariant representation, and leads to better generalization evidenced by the improved performance.

研究动机与目标

• 推动并形式化学习对指定因素 s 的不变表征，同时保持对 y 的预测能力。
• 开发一个通用、可扩展的对抗框架，能够处理离散、连续或结构化的 s。
• 提供理论分析，平衡不变性与预测目标的均衡点。
• 展示在公平分类、多语言翻译以及在不同照明条件下的图像分类中的适用性。
• 展示相对于基线和现有不变特征方法的实证改进。

提出的方法

• 将一个带有编码器E、判别器D和预测器M的极小极大博弈公式化，优化 J(E,M,D)=E_{x,s,y}[ γ log q_D(s|h) − log q_M(y|h) ] 其中 h = E(x,s)。
• 判别器D试图从h预测s以最大化 q_D(s|h)；编码器E和预测器M最小化此量值，以在保留 y 信息的同时从 h 中移除 s。
• 提供理论分析，表明给定 E 时最优的 D 和 M 为 q_D*(s|h)=p̃(s|h) 和 q_M*(y|h)=p̃(y|h)，将目标简化为条件熵的平衡：−γ H(p̃(s|h)) + H(p̃(y|h))。
• 描述句子生成的参数化实例（以语言作为 s 的多语言机器翻译）、公平分类（s 作为性别/年龄等干扰因子）、以及图像分类（照明作为 s）。
• 讨论优化方法，包括梯度反转（类似 GAN）和交替训练，并使用 Adam 优化。

实验结果

研究问题

• RQ1 我们是否能够学习一个在保持任务相关信息 y 的同时去除对干扰属性 s 的信息的表示 h？
• RQ2 不变性与预测准确性之间的平衡（由 γ 控制）如何影响均衡和性能？
• RQ3 相对于标准基线，通过对抗学习得到的不变表示是否在跨领域的任务（公平分类、多语言生成、照明不变识别）上提升泛化？
• RQ4 在某些任务中，是 p(y|x,s) 优于 p(y|x) 吗，以及这如何影响跨域性能？
• RQ5 在实现框架时离散、连续或结构化 s 的实际影响与局限性是什么？

主要发现

• 该框架在三个领域实现了不变表示和更好的泛化能力：公平分类、多语言翻译，以及照明不变的图像分类。
• 在公平分类中，所学习的表示减少了对 s 的泄露，同时维持或提高 y 的准确性，并改善对少数群体的无偏性。
• 在多语言机器翻译中，带判别器的模型优于双语和标准多语言基线，BLEU 得分更高（例如，在 fr-en 和 de-en 上分别达到 36.1 相较于 35.5，以及 35.2/35.5 的基线）。
• 在 Extended Yale B 照明不变任务中，该模型达到 89% 的身份识别准确率，而最佳基线为 85%，同时将 s-可预测性从 0.96 降至 0.57，表明有效去除照明信息。
• 理论分析表明，当 s 与 y 无关时存在双赢均衡，当 s 告知 y 时存在竞争性均衡，γ 调节不变性与预测能力之间的权衡。