[论文解读] Excess Risk Bounds for Exponentially Concave Losses

Mehrdad Mahdavi, Rong Jin|arXiv (Cornell University)|Jan 18, 2014

Advanced Bandit Algorithms Research参考文献 23被引用 4

一句话总结

本文在批量和在线学习设置下，针对指数凹损失函数的学习问题，建立了高概率的过剩风险界 $O(d\log n/n)$。该结果通过在批量学习中利用局部 Radamacher 复杂度，在在线学习中结合鞅 Bernstein 不等式与剥削技术，对改进的在线牛顿法进行分析而获得，且仅需对损失函数施加较弱的假设。

ABSTRACT

The overarching goal of this paper is to derive excess risk bounds for learning from exp-concave loss functions in passive and sequential learning settings. Exp-concave loss functions encompass several fundamental problems in machine learning such as squared loss in linear regression, logistic loss in classification, and negative logarithm loss in portfolio management. In batch setting, we obtain sharp bounds on the performance of empirical risk minimization performed in a linear hypothesis space and with respect to the exp-concave loss functions. We also extend the results to the online setting where the learner receives the training examples in a sequential manner. We propose an online learning algorithm that is a properly modified version of online Newton method to obtain sharp risk bounds. Under an additional mild assumption on the loss function, we show that in both settings we are able to achieve an excess risk bound of $O(d\log n/n)$ that holds with a high probability.

研究动机与目标

• 在批量和序列学习设置下，推导出基于指数凹损失函数的精确过剩风险界。
• 将快速率泛化界的结果从强凸性推广至更广泛的指数凹损失类。
• 实现高概率的过剩风险界，改进在线学习中现有的基于期望的界。
• 分析在指数凹损失下，线性假设空间中经验风险最小化方法的性能。
• 探讨未来工作中通过稀疏性降低对维度 $d$ 依赖的可能性。

提出的方法

• 在批量学习中，于有界线性假设空间 $\mathscr{W}$ 上使用经验风险最小化，其中 $\|\mathbf{w}\| \leq R$。
• 针对指数凹函数设计局部 Radamacher 复杂度分析，以在批量情形下获得精确的收敛速率。
• 提出一种改进的在线牛顿法，采用自适应正则化和基于 Hessian 矩阵的更新策略，以控制遗憾和过剩风险。
• 利用鞅的 Bernstein 不等式与剥削过程，处理在线更新的随机性并控制误差累积。
• 提出一种新颖的过剩风险分解，包含与 Hessian 近似误差、梯度噪声和曲率偏差相关的项。
• 采用结合矩阵迹不等式与行列式界双重分析框架，以控制在线更新中 Hessian 逆矩阵的增长。

实验结果

研究问题

• RQ1 在批量学习设置下，是否能对指数凹损失实现高概率的 $O(d\log n/n)$ 过剩风险界？
• RQ2 能否对在线牛顿法进行修改，以实现高概率的 $O(d\log n/n)$ 过剩风险界，而非仅基于期望的界？
• RQ3 在两种设置下实现此类快速率，对损失函数还需哪些额外假设？
• RQ4 过剩风险界中的 $\log n$ 因子是否不可避免，或可通过更精细的分析予以消除？
• RQ5 能否通过稀疏恢复技术，将对维度 $d$ 的依赖降低至 $s\log d$，以实现稀疏解？

主要发现

• 本文在指数凹损失下，为批量学习中经验风险最小化建立了高概率的过剩风险界 $O(d\log n/n)$。
• 在在线学习设置中，改进的在线牛顿法以高概率实现了相同的 $O(d\log n/n)$ 过剩风险界。
• 分析依赖于剥削过程与鞅的 Bernstein 不等式，以控制随机梯度的偏离。
• 该界在指数凹性和-Lipschitz连续性之外，仅需对损失函数施加一个较弱的附加假设。
• 所导出的界显著快于一般凸 Lipschitz 损失的 $O(1/\sqrt{n})$ 标准速率。
• 本文指出 $d\log n/n$ 可能为紧致界，但关于消除 $\log n$ 或将 $d$ 降低至稀疏解的 $s\log d$ 仍存在开放问题。