[论文解读] Nonparametric Online Regression while Learning the Metric

Ilja Kuzborskij, Nicolò Cesa‐Bianchi|arXiv (Cornell University)|May 22, 2017

Sparse and Compressive Sensing Techniques参考文献 13被引用 3

一句话总结

本文提出了一种在线非参数回归算法，能够同时从数据中学习马氏度量，并通过沿主方向适应回归函数的平滑性来最小化遗憾。该算法的遗憾界与梯度外积矩阵的有效秩成比例，在真实函数在某些方向上更平滑时，优于标准界限；并通过分阶段估计过程自动适应度量的有效维度。

ABSTRACT

We study algorithms for online nonparametric regression that learn the directions along which the regression function is smoother. Our algorithm learns the Mahalanobis metric based on the gradient outer product matrix $\boldsymbol{G}$ of the regression function (automatically adapting to the effective rank of this matrix), while simultaneously bounding the regret ---on the same data sequence--- in terms of the spectrum of $\boldsymbol{G}$. As a preliminary step in our analysis, we extend a nonparametric online learning algorithm by Hazan and Megiddo enabling it to compete against functions whose Lipschitzness is measured with respect to an arbitrary Mahalanobis metric.

研究动机与目标

• 开发一种在线学习算法，以自适应于回归函数沿主方向的内在平滑性。
• 从用于预测的同一数据序列中实时学习马氏度量，而无需事先了解函数平滑结构。
• 将现有非参数在线学习遗憾界扩展至任意马氏度量，捕捉方向性利普希茨连续性。
• 提供一个与梯度外积矩阵有效秩成比例的遗憾界，当函数呈现各向异性平滑时，优于基于欧几里得度量的界限。
• 设计一种分阶段算法，在在线学习过程中估计梯度外积矩阵的同时保持低遗憾。

提出的方法

• 该算法将 Hazan 和 Megiddo 的非参数在线学习框架推广至在任意马氏度量下与具有方向性利普希茨连续性的函数竞争的场景。
• 采用分阶段方法，利用前期阶段的数据逐步估计梯度外积矩阵。
• 在每个阶段，算法将输入空间划分为球体，并使用基于当前度量估计的核函数的正则化最小二乘（RLS）预测规则。
• 通过在历史数据上计算的经验梯度外积矩阵更新度量，利用特征分解识别变化的主要方向。
• 通过高概率分析控制度量估计误差及其对预测精度的影响，从而界定遗憾。
• 算法自动适应由高于递减阈值的特征值数量定义的度量的有效维度。

实验结果

研究问题

• RQ1 通过学习反映回归函数内在平滑性的马氏度量，能否改进在线非参数回归？
• RQ2 遗憾界如何用梯度外积矩阵的谱表示？
• RQ3 是否可能在使用同一数据序列进行在线学习的同时，实现梯度外积矩阵的在线估计？
• RQ4 度量估计误差对最终遗憾的影响是什么？如何以高概率控制该误差？
• RQ5 该算法能否自适应于度量的有效秩，从而在函数位于低维子空间时获得更优的界？

主要发现

• 遗憾界为 $\left(\sqrt{\mathrm{det}_{\kappa}(\mathbf{M})} + \sqrt{\sum_{i=1}^{d}\frac{\|\nabla_{\mathbf{u}_i}f\|_{\infty}^2}{\lambda_i}}\right)T^{\rho_T/(1+\rho_T)}$，其中 $\rho_T$ 为度量的有效秩，$\mathrm{det}_{\kappa}(\mathbf{M})$ 表示截断度量的行列式。
• 当真实函数在梯度外积矩阵的小特征值对应的方向上更平滑时，该界相较于标准欧几里得情形显著改善。
• 该算法以高概率实现遗憾界 $\widetilde{\mathcal{O}}\left(\left(1 + \sum_{j=1}^{d}\frac{\left(\|\nabla_{\mathbf{u}_j}f_0\|_{\infty} + \|\nabla_{V_\Delta^\perp}f_0\|_{\infty}\right)^2}{\mu_j/\mu_1}\right)T^{\widetilde{\rho}_T/(1+\widetilde{\rho}_T)}\right)$。
• 该方法实现了对度量有效维度的自动适应，其中 $\rho_T$ 捕捉了显著特征值的数量，而 $\mathrm{det}_{\kappa}(\mathbf{M})$ 对高维且病态的度量施加惩罚。
• 当度量从独立同分布数据中学习时，期望梯度外积矩阵为马氏度量提供了自然且最优的选择。
• 当度量设为单位矩阵时，该算法恢复了标准的 $T^{d/(1+d)}$ 遗憾界，验证了与先前工作的兼容性。