[논문 리뷰] Competing with Gaussian linear experts

Fedor Zhdanov, Vladimir Vovk|arXiv (Cornell University)|2009. 10. 24.

Advanced Bandit Algorithms Research참고 문헌 17인용 수 6

한 줄 요약

이 논문은 유한 및 무한 차원 힐버트 공간에서 온라인 리지 회귀와 그 베이지안 변종에 대해 정확한 등식 기반 이론적 보장을 수립한다. 리지 회귀는 최적의 정규화된 선형 예측자에 대해 최적의 제곱 손실을 달성하는 반면, 베이지안 리지 회귀는 로그 손실 기준으로 모든 가우시안 선형 전문가와 경쟁하며 명시적인 유죄 항을 포함한 날카운 감소 손실 경계를 도출한다.

ABSTRACT

We study the problem of online regression. We prove a theoretical bound on the square loss of Ridge Regression. We do not make any assumptions about input vectors or outcomes. We also show that Bayesian Ridge Regression can be thought of as an online algorithm competing with all the Gaussian linear experts.

연구 동기 및 목표

• 제곱 손실 하에서 유계 결과를 가정하지 않고, 온라인 리지 회귀에 대해 渐近적이지 않은 등식 기반 이론적 경계를 수립하기.
• 베이지안 리지 회귀가 로그 손실 기준으로 모든 가우시안 선형 전문가와의 경쟁에서 해석될 수 있음을 보여주기.
• 재생 핵 힐버트 공간(RKHS)을 사용하여 비모수적 설정으로 이론적 보장을 확장하기.
• 핵화된 리지 회귀와 핵화된 베이지안 리지 회귀에 대해 명시적인 유죄 항을 포함한 상대 손실 경계를 유도하기.
• 유계 결과 하에서 핵화된 리지 회귀의 유죄 항이 O(√T)로 스케일링됨을 보여주어, 보편 핵 공간에서 모든 연속 함수와의 경쟁성 보장하기.

제안 방법

• 정확한 등식(정리 1)을 유도하여, 온라인 리지 회귀의 누적 가중 제곱 손실과 최적의 선형 예측자의 정규화된 누적 손실 간의 관계를 규명한다.
• 리지 회귀 알고리즘에서 역 공분산 행렬의 효율적 점진적 갱신을 위해 Sherman-Morrison 공식을 적용한다.
• 예측 분포를 모델링하기 위해 베이지안 추론을 사용하며, 리지 회귀 예측은 사후분포의 평균에 해당한다.
• 정리 2를 증명하여, 베이지안 리지 회귀가 최적의 정규화된 전문가 클래스 내에서 가우시안 선형 예측자에 대해 로그 손실에서 경쟁 가능하다는 것을 보인다.
• 핵화된 리지 및 베이지안 리지 회귀를 사용하여 무한 차원 RKHS로 결과를 확장하며, 핵 행렬 K_T와 정규화 파라미터 a를 도입한다.
• 행렬 행렬식 항등식과 det(I + K_T/a)에 대한 로그 경계를 활용하여, 정리 4 및 그 확장에서 명시적인 유죄 항을 도출한다.

실험 결과

연구 질문

• RQ1 온라인 리지 회귀의 누적 제곱 손실에 대해 상한만이 아니라 정확한 등식을 유도할 수 있는가?
• RQ2 베이지안 리지 회귀가 로그 손실 기준으로 모든 가우시안 선형 전문가와의 경쟁에서 우수한 성능을 달성하는가?
• RQ3 리지 회귀의 이론적 보장은 무한 차원 힐버트 공간에서 비모수적 핵화된 설정으로 확장될 수 있는가?
• RQ4 유계 결과 하에서 핵화된 리지 회귀의 상대 손실 경계에서 유죄 항의 순서는 무엇인가?
• RQ5 RBF 핵과 같은 보편 핵을 사용할 경우, 핵화된 리지 회귀는 컴act 도메인에서 모든 연속 함수와의 경쟁에서 유리한가?

주요 결과

• 정리 1은 온라인 리지 회귀의 누적 가중 제곱 손실과 최적의 선형 예측자의 정규화된 손실 간에 정확한 등식을 수립하며, 동시에 상한과 하한을 제공한다.
• 결론 1은 잘라낸 리지 회귀가 4Y² ln det(I + (1/a)Σx_t x_t^T)로 유죄 항이 유계임을 보이며, a를 c_F √T로 선택할 경우 O(√T) 순서로 스케일링됨을 보여준다.
• 정리 2는 베이지안 리지 회귀의 로그 손실이 최적의 가우시안 선형 전문가와의 경쟁에서 유리하며, 유죄 항이 (1/2)ln det(I + (1/a)K_T)임을 증명한다.
• 결론 4는 결과를 핵화된 리지 회귀로 확장하여, 제곱 손실 유죄 항이 4Y² ln det(I + (1/a)K_T)로 유계임을 보이며, 최적의 a 하에서 동일한 O(√T) 스케일링을 보인다.
• 식 (19)는 알려지지 않은 T에 대해 데이터에 의존하는 유죄 항 경계를 제공하며, 보편 핵 공간에서 유계 결과 하에서 모든 연속 함수와의 경쟁성을 보여준다.
• 식 (20)은 점점 감소하는 평균 유죄 항이 점점 0으로 수렴함을 확인하여, RBF 핵을 사용할 경우 핵화된 리지 회귀가 컴act 도메인에서 모든 연속 함수와의 경쟁에서 보편적으로 유리함을 의미한다.