[论文解读] Competing with Gaussian linear experts

Fedor Zhdanov, Vladimir Vovk|arXiv (Cornell University)|Oct 24, 2009

Advanced Bandit Algorithms Research参考文献 17被引用 6

一句话总结

本文在有限维与无限维希尔伯特空间中，为在线岭回归及其贝叶斯变体建立了基于等式的理论保证。证明了岭回归相对于最优正则化线性预测器实现了最优平方损失，而贝叶斯岭回归则在对数损失下与所有高斯线性专家竞争，从而得到具有显式后悔项的紧密相对损失界。

ABSTRACT

We study the problem of online regression. We prove a theoretical bound on the square loss of Ridge Regression. We do not make any assumptions about input vectors or outcomes. We also show that Bayesian Ridge Regression can be thought of as an online algorithm competing with all the Gaussian linear experts.

研究动机与目标

• 在不假设输出有界的前提下，为在线岭回归在平方损失下建立非渐近、基于等式的理论界。
• 证明贝叶斯岭回归可被解释为一种在线算法，其在对数损失下与所有高斯线性专家竞争。
• 通过再生核希尔伯特空间（RKHS）将理论保证扩展至核化、非参数设定。
• 为核化岭回归与核化贝叶斯岭回归推导出具有显式后悔项的相对损失界。
• 证明在输出有界条件下，后悔项的阶为 O(√T)，从而确保在通用核空间中与所有连续函数的竞争力。

提出的方法

• 推导出一个精确等式（定理1），将在线岭回归的累积加权平方损失与最优线性预测器的正则化累积损失联系起来。
• 应用Sherman-Morrison公式，实现岭回归算法中逆协方差矩阵的高效递推更新。
• 利用贝叶斯推断建模预测分布，其中岭回归的预测值对应后验分布的均值。
• 证明定理2，表明贝叶斯岭回归在对数损失下与高斯线性预测器类中最佳正则化专家具有竞争性，其后悔项为 (1/2)ln det(I + (1/a)K_T)。
• 通过使用岭回归与贝叶斯岭回归的核化版本，将结果推广至无限维RKHS，其中使用核矩阵 K_T 和正则化参数 a。
• 利用行列式恒等式及对 det(I + K_T/a) 的对数界，推导出推论4及其扩展中的显式后悔项。

实验结果

研究问题

• RQ1 能否为在线岭回归的累积平方损失推导出精确等式，而非仅上界？
• RQ2 贝叶斯岭回归在对数损失下是否能与所有高斯线性专家实现竞争性能？
• RQ3 能否将岭回归的理论保证扩展至无限维希尔伯特空间中的非参数核化设定？
• RQ4 在输出有界条件下，核化岭回归的相对损失界中，后悔项的阶是多少？
• RQ5 当使用RBF等通用核时，核化岭回归是否与紧致域上所有连续函数具有竞争力？

主要发现

• 定理1建立了在线岭回归的累积加权平方损失与最优线性预测器正则化损失之间的精确等式，同时提供了上界与下界。
• 推论1表明，截断岭回归的后悔项有界于 4Y² ln det(I + (1/a)Σx_t x_t^T)，当 a 选择为 c_F √T 时，其阶为 O(√T)。
• 定理2证明了贝叶斯岭回归的对数损失与最佳高斯线性专家具有竞争性，其后悔项为 (1/2)ln det(I + (1/a)K_T)。
• 推论4将结果扩展至核化岭回归，表明平方损失后悔项有界于 4Y² ln det(I + (1/a)K_T)，在最优 a 下仍保持 O(√T) 的阶。
• 公式(19)为未知 T 提供了数据依赖的后悔界，表明在输出有界条件下，其与通用核空间中所有连续函数具有竞争力。
• 公式(20)确认了渐近平均后悔趋于零，意味着当使用RBF核时，核化岭回归在紧致域上与所有连续函数具有普遍竞争力。