[논문 리뷰] Efficient second order online learning by sketching

Haipeng Luo, Alekh Agarwal외 2명|arXiv (Cornell University)|2016. 12. 05.

Advanced Bandit Algorithms Research참고 문헌 34인용 수 36

한 줄 요약

이 논문은 차원과 스키티치 크기에서 선형 런타임 복잡도를 달성하기 위해 스케칭 기법을 활용하는 효율적인 온라인 2차 최적화 알고리즘인 스케치드 온라인 뉴턴(Sketched Online Newton, SON)을 소개한다. 이는 불량조건 데이터에 대해 회귀 보장을 크게 향상시킨다. Oja의 규칙과 같은 희소 스케칭 방법을 통합함으로써 SON은 특성 희소성에 따라 계산이 선형적으로 증가하도록 하여 기존의 2차 온라인 학습에서의 계산 병목 현상을 해결한다.

ABSTRACT

We propose Sketched Online Newton (SON), an online second order learning algorithm that enjoys substantially improved regret guarantees for ill-conditioned data. SON is an enhanced version of the Online Newton Step, which, via sketching techniques enjoys a running time linear in the dimension and sketch size. We further develop sparse forms of the sketching methods (such as Oja's rule), making the computation linear in the sparsity of features. Together, the algorithm eliminates all computational obstacles in previous second order online learning approaches.

연구 동기 및 목표

• 불량조건 데이터 환경에서 2차 온라인 학습의 높은 계산 비용을 해결하기 위해.
• 2차 최적화의 이점을 유지하면서도 선형 시간 복잡도를 달성하는 온라인 학습 알고리즘을 개발하기 위해.
• 스케칭을 통한 차원 축소를 통해 기존 2차 온라인 방법에서의 계산 장벽을 제거하기 위해.
• 희소 특성 공간으로의 스케칭 기법 확장하여, 데이터가 희소할 경우에도 효율성을 확보하기 위해.
• 스케칭과 온라인 뉴턴 방법을 조합하여 온라인 학습의 회귀 보장을 향상시키기 위해.

제안 방법

• 차원 축소를 위한 스케칭을 사용하는 온라인 뉴턴 스텝 알고리즘의 개선된 변종인 스케치드 온라인 뉴턴(SON)을 제안한다.
• 스케칭 기법을 활용하여 헤시안 행렬 근사 계산을 차원과 스키티치 크기의 선형 시간으로 줄인다.
• Oja의 규칙과 같은 희소 스케칭 변종을 도입하여 특성 희소성에 따라 선형 런타임 복잡도를 유지한다.
• 무작위 스케칭 투영을 사용하여 헤시안 행렬을 근사화함으로써 2차 최적화의 이점을 유지한다.
• 스케칭된 헤시안 근사치를 사용한 온라인 업데이트를 통해 고차원 환경에서 효율적인 매개변수 업데이트를 가능하게 한다.
• 저랭크 스케칭과 반복적 온라인 학습 업데이트를 조합하여 계산 효율성을 확보한다.

실험 결과

연구 질문

• RQ1 스케칭 기법이 2차 온라인 학습에 효과적으로 적용되어 계산 복잡도를 감소시킬 수 있는가?
• RQ2 SON의 회귀 성능은 불량조건 데이터에서 기존의 온라인 뉴턴 방법과 비교해 어떻게 되는가?
• RQ3 Oja의 규칙과 같은 희소 스케칭 규칙은 계산 효율성을 유지하면서 최적화 정확도도 보존할 수 있는가?
• RQ4 스킵 사이즈와 차원 수가 SON의 수렴성과 회귀에 미치는 영향은 무엇인가?
• RQ5 SON은 이전의 2차 온라인 학습 알고리즘을 방해하는 계산 병목 현상을 제거하는가?

주요 결과

• SON은 특히 불량조건 데이터에서 기준 온라인 뉴턴 방법보다 회귀 보장이 크게 향상된다.
• 알고리즘은 데이터 차원과 스키티치 크기 모두에서 선형 시간에 실행되어 확장 가능한 2차 학습을 가능하게 한다.
• Oja의 규칙과 같은 희소 스케칭 변종은 특성 희소성에 따라 계산이 선형적으로 증가하도록 하여 희소 입력에서의 효율성을 향상시킨다.
• 기존에 2차 온라인 학습의 실용성을 제한했던 계산 장애를 성공적으로 극복한다.
• 스케칭과 온라인 뉴턴 업데이트를 조합함으로써 SON은 금전적 비용이 과도하게 들지 않으면서도 2차 최적화의 이점을 유지한다.