[论文解读] Learning to Pivot with Adversarial Networks

Gilles Louppe, M. Kagan+1 more|arXiv (Cornell University)|Nov 3, 2016

Domain Adaptation and Few-Shot Learning被引用 87

一句话总结

本文提出了一种对抗性训练框架，通过联合训练分类器和判别器以最小化模型输出与干扰变量之间的依赖性，强制预测模型成为统计枢轴——即其分布对连续或分类的干扰参数保持不变。该方法在无需显式知晓干扰参数分布的情况下实现鲁棒性，具备理论收敛保证，并在高能物理和模拟示例中得到验证。

ABSTRACT

Several techniques for domain adaptation have been proposed to account for differences in the distribution of the data used for training and testing. The majority of this work focuses on a binary domain label. Similar problems occur in a scientific context where there may be a continuous family of plausible data generation processes associated to the presence of systematic uncertainties. Robust inference is possible if it is based on a pivot -- a quantity whose distribution does not depend on the unknown values of the nuisance parameters that parametrize this family of data generation processes. In this work, we introduce and derive theoretical results for a training procedure based on adversarial networks for enforcing the pivotal property (or, equivalently, fairness with respect to continuous attributes) on a predictive model. The method includes a hyperparameter to control the trade-off between accuracy and robustness. We demonstrate the effectiveness of this approach with a toy example and examples from particle physics.

研究动机与目标

• 解决科学机器学习中的系统不确定性挑战，即由于未知或变化的数据生成过程，训练数据可能无法代表真实世界数据。
• 克服现有领域自适应方法仅假设二元领域偏移的局限性，将鲁棒性扩展至连续的数据生成过程族。
• 开发一种方法，强制实现枢轴特性——即预测模型的分布独立于干扰参数——从而确保在不同系统条件下均能实现鲁棒推断。
• 提供一个统一框架，支持离散和连续的干扰参数，且无需准确估计条件分布。
• 通过最小化对敏感或系统属性的依赖，实现公平且鲁棒的分类，将传统公平性设置扩展至科学不确定性量化领域。

提出的方法

• 在极小化-极大化对抗设置下联合训练预测分类器 $ f $ 和判别器 $ r $，其中 $ f $ 旨在预测标签，而 $ r $ 试图从 $ f(X;\theta_f) $ 中推断干扰参数 $ Z $。
• 判别器 $ r $ 建模条件分布 $ p(Z|f(X;\theta_f)) $，并被训练以最大化其从分类器输出中预测 $ Z $ 的能力。
• 分类器 $ f $ 被训练以最小化其预测损失 $ \mathcal{L}_f $，同时最大化判别器的损失 $ \mathcal{L}_r $，从而最小化对 $ Z $ 的依赖。
• 目标函数结合了标准预测损失与对抗损失，以促使 $ f(X;\theta_f) $ 与 $ Z $ 在统计上独立，从而强制实现枢轴特性。
• 该方法使用神经网络建模 $ f $ 和 $ r $，实现灵活的函数逼近和对连续干扰参数的泛化能力。
• 通过超参数控制预测准确性与鲁棒性（即对 $ Z $ 的不变性）之间的权衡，允许根据具体应用场景进行调优。

实验结果

研究问题

• RQ1 对抗性训练能否在干扰参数为连续变量时，强制实现枢轴特性（即预测模型与干扰参数之间的统计独立性）？
• RQ2 如何在不依赖干扰参数分布显式知识的前提下，使机器学习模型对科学数据中的系统不确定性具有鲁棒性？
• RQ3 强制模型输出对干扰参数保持不变的对抗性训练过程的理论收敛行为如何？
• RQ4 与假设二元或离散领域偏移的现有领域自适应和公平性方法相比，该方法表现如何？
• RQ5 该方法能否在高能物理中有效应用，其中系统不确定性普遍存在且模型鲁棒性至关重要？

主要发现

• 若存在此类模型，所提出的对抗性训练过程可收敛至既最优又具有枢轴特性的模型（即独立于干扰参数 $ Z $）。
• 当不存在完美枢轴时，该方法可通过超参数调节预测准确性与鲁棒性之间的权衡，实现在不确定性下的实用部署。
• 该方法超越二元领域偏移的限制，支持连续或分类的干扰参数，且无需对所有 $ z $ 估计 $ p(f(X)|Z=z) $。
• 在高能物理示例中，该方法成功生成对数据生成过程系统性变化具有不变性的分类器，优于在标称条件下训练的标准模型。
• 该方法在模拟示例和真实世界高能物理数据集上得到实证验证，展示了在系统不确定性下的改进鲁棒性。
• 该框架可扩展至公平性应用，通过强制模型预测与敏感属性之间的独立性，为鲁棒且公平的机器学习提供统一方法。