[논문 리뷰] Sparsity regret bounds for individual sequences in online linear regression

Sébastien Gerchinovitz|arXiv (Cornell University)|2011. 01. 05.

Advanced Bandit Algorithms Research참고 문헌 61인용 수 17

한 줄 요약

이 논문은 개별 결정적 수열에 대한 온라인 선형 회귀에서 희소성에 기반한 회귀 오차 경계를 도입하며, 데이터 기반의 절단을 통합한 적응형 알고리즘(SeqSEW)을 제안한다. 이 알고리즘은 진짜 파라미터 벡터의 희소성 수준에 따라 최적의 경계 스케일링을 달성하여, 가우시안 잡음이 존재하는 스 tochastic 설정에서의 적응형 리스크 경계에 대한 열린 문제를 해결한다.

ABSTRACT

We consider the problem of online linear regression on arbitrary deterministic sequences when the ambient dimension d can be much larger than the number of time rounds T. We introduce the notion of sparsity regret bound, which is a deterministic online counterpart of recent risk bounds derived in the stochastic setting under a sparsity scenario. We prove such regret bounds for an online-learning algorithm called SeqSEW and based on exponential weighting and data-driven truncation. In a second part we apply a parameter-free version of this algorithm to the stochastic setting (regression model with random design). This yields risk bounds of the same flavor as in Dalalyan and Tsybakov (2011) but which solve two questions left open therein. In particular our risk bounds are adaptive (up to a logarithmic factor) to the unknown variance of the noise if the latter is Gaussian. We also address the regression model with fixed design.

연구 동기 및 목표

• 모수의 수 d가 시간 단계 수 T를 초과하는 고차원 온라인 선형 회귀의 과제를 다루기.
• 진짜 파라미터 벡터의 희소성 특성을 반영하는 결정론적 경계 경계를 개발하기.
• 조정 파rameter나 잡음 분산에 대한 사전 지식이 없이도 작동하는 적응형 온라인 알고리즘을 설계하기.
• 결정론적 경계 경계를 스 tochastic 설정으로 확장하여, 알려지지 않은 가우시안 잡음 분산에 대해 적응형 리스크 경계를 도출하기.
• 이전 연구에서 해결되지 않은 적응형 추정에 관한 열린 문제를 해결하기, 특히 Dalalyan과 Tsybakov (2012a)에서 제기된 문제들

제안 방법

• 스 tochastic 희소성 오ракูล 부등식의 결정론적 대응으로서의 새로운 희소성 경계 경계 개념을 제안한다.
• 지수 가중치를 사용한 선형 예측에 기반하고 데이터 기반의 절단을 통합하여 희소성을 유도하는 SeqSEW 알고리즘을 도입한다.
• 무파rameter 버전의 SeqSEW를 무작위 설계를 가진 스 tochastic 회귀 모델에 적용하여 알려지지 않은 잡음 분산에 자동으로 적응할 수 있도록 한다.
• 서브가우시안 및 서브지수 랜덤 변수의 최대부등식과 모멘트 경계를 활용하여 예측 오차의 성장률을 통제한다.
• 일반화된 역함수와 볼록 상위함수를 사용하여 예측 오차의 최대 제곱편차에 대한 尾부 경계를 유도한다.
• Pisier 유형의 추론을 통해 이론적 보장을 확보하며, 젠센의 부등식과 모멘트 가정을 조합하여 기대 최대 오차를 경계한다.

실험 결과

연구 질문

• RQ1 결정론적, 개별 수열 기반의 온라인 학습 프레임워크에서 희소성 오라클 유형의 경계 경계를 유도할 수 있는가?
• RQ2 온라인 알고리즘이 진짜 파라미터 벡터의 희소성 수준 s에 따라 스케일링되는 경계를 달성할 수 있는가, 즉 환경 차원 d가 아닌 s에 따라 스케일링되는가?
• RQ3 특히 잡음이 가우시안일 경우, 스 tochastic 설정에서 알려지지 않은 잡음 분산에 대해 이러한 경계 경계가 적응형으로 작용할 수 있는가?
• RQ4 제안된 알고리즘이 정규화 강도나 잡음 분산과 같은 조정 파rameter의 사전 지식이 없이도 작동할 수 있는가?
• RQ5 결정론적 경계 경계를 스 tochastic 회귀 모델의 무작위 설계에서 적응형 리스크 경계로 확장할 수 있는가?

주요 결과

• 논문은 최적 파라미터 벡터의 비영성 계수 수 s에 따라 스케일링되는 SeqSEW 알고리즘에 대해 희소성 경계 경계를 확립한다. 이는 환경 차원 d가 아닌 비영성 계수 수 s에 따라 스케일링된다.
• 희소 수열에 대해 경계 경계는 O(s log T)의 순서를 가지며, s ≪ d일 경우 기존의 O(d log T) 경계보다 훨씬 우수하다.
• 무작위 설계를 가진 스 tochastic 설정에서, SeqSEW의 무파라미터 버전은 알려지지 않은 가우시안 잡음 분산에 대해 대략 로그 인자까지 적응형 리스크 경계를 도출한다.
• Dalalyan과 Tsybakov (2012a)에서 제기한 열린 문제를 해결하며, 잡음 분산의 사전 지식이 없이도 적응형 리스크 경계를 달성한다.
• 이론적 분석은 d ≫ T일 경우에도 희소성 가정 하에 최적의 경계 스케일링을 달성함을 확인한다.
• 데이터 기반의 절단과 함께 지수 가중치를 사용함으로써, 조정 파rameter 없이도 알려지지 않은 희소성 수준과 잡음 수준에 자동으로 적응할 수 있다.