[论文解读] Sparsity regret bounds for individual sequences in online linear regression

Sébastien Gerchinovitz|arXiv (Cornell University)|Jan 5, 2011

Advanced Bandit Algorithms Research参考文献 61被引用 17

一句话总结

本文針對個別決定性序列上的線上線性回歸，提出稀疏性 regret 界，並提出一種自適應演算法（SeqSEW），結合指數加權與資料驅動截斷。該方法在真實參數向量的稀疏性層級下達成最佳的 regret 漸近行為，解決了在隨機設定下高斯雜訊之自適應風險界方面的開放問題。

ABSTRACT

We consider the problem of online linear regression on arbitrary deterministic sequences when the ambient dimension d can be much larger than the number of time rounds T. We introduce the notion of sparsity regret bound, which is a deterministic online counterpart of recent risk bounds derived in the stochastic setting under a sparsity scenario. We prove such regret bounds for an online-learning algorithm called SeqSEW and based on exponential weighting and data-driven truncation. In a second part we apply a parameter-free version of this algorithm to the stochastic setting (regression model with random design). This yields risk bounds of the same flavor as in Dalalyan and Tsybakov (2011) but which solve two questions left open therein. In particular our risk bounds are adaptive (up to a logarithmic factor) to the unknown variance of the noise if the latter is Gaussian. We also address the regression model with fixed design.

研究动机与目标

• 處理參數數量 d 超過時間回合數 T 的高維線上線性回歸挑戰。
• 發展反映真實參數向量稀疏性的決定性 regret 界，類比於隨機設定下的稀疏性閾值不等式。
• 設計一種自適應線上演算法，無需事先知道調校參數或雜訊變異數。
• 將決定性 regret 界推廣至隨機設定，進而獲得對未知高斯雜訊變異數具有自適應性的風險界。
• 解決先前研究未解決的自適應估計開放問題，特別是 Dalalyan 和 Tsybakov (2012a) 所提出的問題。

提出的方法

• 提出一種新的稀疏性 regret 界概念，作為隨機設定下稀疏性閾值不等式的決定性對應。
• 提出 SeqSEW 演算法，透過在線性預測上使用指數加權，並結合資料驅動截斷以促進稀疏性。
• 將無參數版本的 SeqSEW 應用於具有隨機設計的隨機回歸模型，實現對未知雜訊變異數的自動適應。
• 利用次高斯與次指數隨機變數的最大不等式與矩不等式，控制預測誤差的增長。
• 運用廣義反函數與凸上界函數，推導預測誤差最大平方偏差的尾部界。
• 透過 Pisier 類型的論證建立理論保證，結合 Jensen 不等式與矩假設，以界定期望最大誤差。

实验结果

研究问题

• RQ1 能否在決定性、個別序列的線上學習框架中推導出類似於稀疏性閾值的 regret 界？
• RQ2 能否設計一種線上演算法，使 regret 的增長與真實參數向量的稀疏性層級 s 相關，而非與環境維度 d 相關？
• RQ3 能否使這些 regret 界在隨機設定下對未知雜訊變異數（特別是高斯雜訊）具有自適應性？
• RQ4 所提出的演算法是否能消除對正則化強度或雜訊變異數等調校參數的先驗知識需求？
• RQ5 能否將決定性 regret 界推廣至隨機回歸模型，進而獲得對隨機設計下自適應風險界？

主要发现

• 本文為 SeqSEW 演算法建立的稀疏性 regret 界，其規模取決於最佳參數向量的非零係數數量 s，而非環境維度 d。
• 對於稀疏序列，regret 界的階為 O(s log T)，當 s ≪ d 時，顯著優於標準的 O(d log T) 界。
• 在具有隨機設計的隨機設定下，SeqSEW 的無參數版本可產生對未知高斯雜訊變異數具有自適應性的風險界，僅在對數因子內。
• 本方法解決了 Dalalyan 和 Tsybakov (2012a) 所提出的一個開放問題，實現自適應風險界，且無需事先知道雜訊變異數。
• 理論分析確認，即使在 d ≫ T 時，該演算法在稀疏性假設下仍能達成最佳的 regret 漸近行為。
• 透過指數加權與資料驅動截斷的結合，演算法能自動適應未知的稀疏性與雜訊水平，且無需調校參數。