[论文解读] Statistical Learning with Conditional Value at Risk

Tasuku Soma, Yuichi Yoshida|arXiv (Cornell University)|Feb 14, 2020

Statistical Methods and Inference参考文献 21被引用 22

一句话总结

本文提出了一种风险规避的统计学习框架，通过仅使用独立同分布（i.i.d.）样本的随机梯度下降（SGD）来优化损失的条件风险价值（CVaR），避免了对底层分布的直接访问。该框架建立了凸Lipschitz损失的O(1/√n)收敛率，并为非凸平滑损失建立了泛化边界，实验结果表明，所提出的CVaR-SGD算法能有效最小化最坏情况下的损失，同时保持了具有竞争力的平均性能。

ABSTRACT

We propose a risk-averse statistical learning framework wherein the performance of a learning algorithm is evaluated by the conditional value-at-risk (CVaR) of losses rather than the expected loss. We devise algorithms based on stochastic gradient descent for this framework. While existing studies of CVaR optimization require direct access to the underlying distribution, our algorithms make a weaker assumption that only i.i.d.\ samples are given. For convex and Lipschitz loss functions, we show that our algorithm has $O(1/\sqrt{n})$-convergence to the optimal CVaR, where $n$ is the number of samples. For nonconvex and smooth loss functions, we show a generalization bound on CVaR. By conducting numerical experiments on various machine learning tasks, we demonstrate that our algorithms effectively minimize CVaR compared with other baseline algorithms.

研究动机与目标

• 开发一种统计学习框架，使用CVaR而非期望损失来评估模型性能，以实现风险规避的决策制定。
• 解决现有CVaR优化方法需要显式访问底层分布的问题，而这种访问在统计学习中通常不现实。
• 在i.i.d.抽样下，为CVaR优化建立泛化边界，特别是针对非凸和平滑损失函数。
• 设计并实证验证一种能够有效最小化实际机器学习任务中CVaR的随机梯度下降算法。

提出的方法

• 将CVaR最小化表述为对最坏α分位数损失的优化问题，使用条件风险价值作为风险度量。
• 提出一种新颖的基于SGD的算法（CVaR-SGD），在不访问完整分布的情况下基于i.i.d.样本运行。
• 对于非凸平滑损失，将CVaR优化简化为最小化辅助损失函数f(w, τ) = [ℓ(w;z) − τ]+ / α的期望。
• 使用参数ε对CVaR目标函数进行平滑近似，以实现可微性和稳定优化。
• 在验证数据上应用权重衰减和超参数调优，以稳定训练并改善泛化性能。
• 采用小批量梯度更新，其中CVaR-on-Minibatch方法使用每个批次中损失的前α分位数来计算梯度。

实验结果

研究问题

• RQ1 是否可以仅使用i.i.d.样本而无需直接访问底层分布，有效执行基于CVaR的优化？
• RQ2 在凸且Lipschitz条件下，SGD用于CVaR最小化的收敛率能达到多高？
• RQ3 当损失函数为非凸且平滑时，能否为CVaR优化建立泛化边界？
• RQ4 最小化CVaR是否能在保持分类和回归任务中具有竞争力的平均性能的同时，提升最坏情况示例的表现？

主要发现

• 对于凸且G-Lipschitz的损失函数，所提出的CVaR-SGD算法实现了O(1/√n)的收敛率，其中n为样本数量。
• 对于非凸且平滑的损失函数，该算法在期望下实现了O(Gβ^{1/2}/n^{1/4} + G^{4/3}/n^{1/6})的泛化误差边界。
• 在MNIST和scikit-learn数据集上的数值实验表明，CVaR-SGD在最坏情况的α分位数示例中，CVaR值显著低于Vanilla-SGD和CVaR-on-Minibatch。
• 尽管未针对平均损失进行优化，CVaR-SGD在分类任务中仍实现了与标准SGD相当或更优的平均损失和准确率。
• 在CVaR-SGD下，前α分位数的损失（例如α=0.05或0.1）始终低于基线方法，证实了对最坏情况风险的有效降低。
• 结果表明，基于CVaR的学习方法可提升现实应用中的鲁棒性，如医疗、金融和机器人技术，其中必须避免罕见但灾难性的故障。