[论文解读] Kernel Distributionally Robust Optimization

Jia-Jie Zhu, Wittawat Jitkrittum+2 more|arXiv (Cornell University)|Jun 12, 2020

Risk and Portfolio Optimization参考文献 51被引用 11

一句话总结

本文提出了核分布鲁棒优化（Kernel DRO），一种利用再生核希尔伯特空间（RKHS）构建灵活凸模糊集的分布鲁棒优化方法。通过证明广义对偶定理，该方法将最坏情况风险最小化问题转化为RKHS函数上的对偶问题，从而在无需Lipschitz假设或核相关约束的前提下，实现对一般损失函数的鲁棒优化。

ABSTRACT

We propose kernel distributionally robust optimization (Kernel DRO) using insights from the robust optimization theory and functional analysis. Our method uses reproducing kernel Hilbert spaces (RKHS) to construct a wide range of convex ambiguity sets, which can be generalized to sets based on integral probability metrics and finite-order moment bounds. This perspective unifies multiple existing robust and stochastic optimization methods. We prove a theorem that generalizes the classical duality in the mathematical problem of moments. Enabled by this theorem, we reformulate the maximization with respect to measures in DRO into the dual program that searches for RKHS functions. Using universal RKHSs, the theorem applies to a broad class of loss functions, lifting common limitations such as polynomial losses and knowledge of the Lipschitz constant. We then establish a connection between DRO and stochastic optimization with expectation constraints. Finally, we propose practical algorithms based on both batch convex solvers and stochastic functional gradient, which apply to general optimization and machine learning tasks.

研究动机与目标

• 解决现有鲁棒优化方法对Lipschitz常数知识的依赖性，或其仅限于多项式损失函数的局限性。
• 为分布鲁棒优化（DRO）构建一个通用框架，适用于广泛类别的损失函数和数据驱动的模糊集。
• 通过使用再生核希尔伯特空间（RKHS）和积分概率度量（IPM），统一现有的鲁棒与随机优化方法。
• 建立DRO与具有期望约束的随机优化之间的联系，从而支持可扩展算法的设计。
• 利用锥对偶与泛函分析提供理论基础，推广经典矩问题中的对偶结果。

提出的方法

• 将DRO问题表述为在基于RKHS范数与积分概率度量（IPM）定义的模糊集内的概率测度上的极小化-极大化优化问题。
• 证明广义对偶定理（定理3.1），将原始DRO问题转化为RKHS函数上的对偶问题，从而实现在函数空间上的凸优化。
• 通过基于RKHS的范数与矩约束构造模糊集，包括基于MMD（最大均值差异）与IPM的集合，确保其凸性与可处理性。
• 利用通用RKHS确保对偶结果适用于广泛类别的损失函数，包括非多项式与非Lipschitz函数。
• 推导对偶问题的半无限锥规划形式，并将其重述为二阶锥规划（QCLP），利用S-lemma通过半定规划（SDP）求解。
• 提出一种用于大规模机器学习任务可扩展训练的随机函数梯度DRO（SFG-DRO）算法，结合随机逼近与函数梯度更新。

实验结果

研究问题

• RQ1 能否将矩问题中的对偶性推广至适用于多项式或Lipschitz连续性以外的任意损失函数？
• RQ2 如何基于RKHS构造模糊集，以统一基于矩约束与IPM的各类现有鲁棒优化方法？
• RQ3 该对偶框架在多大程度上可扩展至非核化模型，从而实现超越核化学习的鲁棒性？
• RQ4 分布鲁棒优化与具有期望约束的随机优化之间存在何种联系，如何从算法角度加以利用？
• RQ5 能否为DRO开发出可扩展且实用的算法，避免对Lipschitz常数或核结构的显式知识依赖？

主要发现

• 广义对偶定理（定理3.1）表明，DRO中的最坏情况风险可被重述为在RKHS函数上的凸优化问题，从而消除了对Lipschitz连续性或多项式损失假设的需求。
• 当输入空间有界时，基于RKHS范数定义的模糊集是紧致且凸的，确保了最优解的存在性。
• 通过使用通用RKHS，所提出的框架适用于广泛类别的损失函数，包括非多项式与非Lipschitz函数，克服了先前DRO方法的关键局限。
• 正式建立了DRO与具有期望约束的随机优化之间的联系，从而支持设计一种新型的随机函数梯度DRO（SFG-DRO）算法。
• SFG-DRO算法通过结合随机逼近与函数梯度更新，实现了对现代机器学习任务的可扩展性，达到实际效率。
• 理论分析证实，该对偶框架推广了经典矩问题中的结果，附录中提供了完整自包含的证明。