[论文解读] Distributionally Robust Learning

Ruidi Chen, Ioannis Ch. Paschalidis|arXiv (Cornell University)|Aug 20, 2021

Risk and Portfolio Optimization被引用 8

一句话总结

本文提出了一种基于Wasserstein度量的分布鲁棒优化（DRO）的分布鲁棒学习框架，以增强模型对数据分布偏移的鲁棒性。该研究为多种学习问题（如回归、分类、半监督学习和强化学习）推导出可处理的DRO松弛形式，建立了鲁棒性与正则化之间的联系，同时提供了有限样本和渐近性能保证。

ABSTRACT

This monograph develops a comprehensive statistical learning framework that is robust to (distributional) perturbations in the data using Distributionally Robust Optimization (DRO) under the Wasserstein metric. Beginning with fundamental properties of the Wasserstein metric and the DRO formulation, we explore duality to arrive at tractable formulations and develop finite-sample, as well as asymptotic, performance guarantees. We consider a series of learning problems, including (i) distributionally robust linear regression; (ii) distributionally robust regression with group structure in the predictors; (iii) distributionally robust multi-output regression and multiclass classification, (iv) optimal decision making that combines distributionally robust regression with nearest-neighbor estimation; (v) distributionally robust semi-supervised learning, and (vi) distributionally robust reinforcement learning. A tractable DRO relaxation for each problem is being derived, establishing a connection between robustness and regularization, and obtaining bounds on the prediction and estimation errors of the solution. Beyond theory, we include numerical experiments and case studies using synthetic and real data. The real data experiments are all associated with various health informatics problems, an application area which provided the initial impetus for this work.

研究动机与目标

• 通过开发一种鲁棒的统计学习框架，解决数据分布偏移导致的模型性能下降问题。
• 基于Wasserstein度量构建分布鲁棒优化（DRO），以建模并缓解数据中的分布扰动。
• 为多种问题类别建立分布鲁棒学习的有限样本和渐近性能保证。
• 将DRO中的鲁棒性与正则化联系起来，为模型泛化提供系统性方法。
• 通过合成数据和真实世界医疗信息学应用，验证该框架的实际效用。

提出的方法

• 利用Wasserstein度量在经验分布周围定义一个模糊集，以捕捉合理的数据分布扰动。
• 借助对偶理论将原始DRO问题转化为可处理的凸优化问题，便于高效计算。
• 为六类不同的学习问题（包括线性回归与多输出回归、分类、半监督学习等）推导出闭式解或高效可解的松弛形式。
• 将最近邻估计与DRO结合，以实现在分布不确定性下的最优决策。
• 通过将DRO与值函数估计结合，将该框架应用于强化学习，以应对分布偏移。
• 通过有限样本和渐近分析，建立预测误差与估计误差的理论边界。

实验结果

研究问题

• RQ1 如何系统性地利用Wasserstein度量构建分布鲁棒学习框架，以确保对数据分布偏移的鲁棒性？
• RQ2 基于DRO的学习在不同监督学习与半监督学习任务中的有限样本和渐近性能保证是什么？
• RQ3 与标准经验风险最小化相比，DRO正则化在多大程度上提升了泛化能力？
• RQ4 如何有效将DRO扩展至多输出回归与多分类问题？
• RQ5 DRO与最近邻估计的结合在不确定环境下的决策鲁棒性方面有何增强作用？

主要发现

• 所提出的DRO框架为全部六类学习问题（包括分布鲁棒的线性与多输出回归）提供了有限样本性能保证。
• 为每类问题推导出可处理的DRO松弛形式，实现了鲁棒性与正则化的系统性关联，支持高效优化。
• 在真实医疗信息学数据集上，该框架表现出强劲的实证性能，验证了其实际相关性与鲁棒性。
• 数值实验表明，基于DRO的模型在分布偏移下的预测准确性和稳定性方面优于标准基线模型。
• 理论分析证实，在弱正则性条件下，DRO解可实现有界的估计误差与预测误差。
• 将DRO与最近邻估计结合，显著提升了在非独立同分布及分布外设置下的决策鲁棒性。