[논문 리뷰] Random Feature-based Online Multi-kernel Learning in Environments with Unknown Dynamics

Yanning Shen, Tianyi Chen외 1명|arXiv (Cornell University)|2017. 12. 28.

Machine Learning and ELM참고 문헌 33인용 수 11

한 줄 요약

이 논문은 동적 환경에서 미리 알 수 없는 동역학을 고려해도 확장성 있고 적응적인 함수 근사가 가능한 온라인 다중 커널 학습 알고리즘인 AdaRaker을 제안한다. 직교성 유도를 통한 랜덤 특징을 활용하여 이 알고리즘은 이론적 보장을 바탕으로 하위선형 동적 위험을 달성하며, 데이터 기반의 커널 조합과 동적 추적을 통해 비정상적 환경에서 정적 기준보다 뛰어난 성능을 발휘한다.

ABSTRACT

Kernel-based methods exhibit well-documented performance in various nonlinear learning tasks. Most of them rely on a preselected kernel, whose prudent choice presumes task-specific prior information. Especially when the latter is not available, multi-kernel learning has gained popularity thanks to its flexibility in choosing kernels from a prescribed kernel dictionary. Leveraging the random feature approximation and its recent orthogonality-promoting variant, the present contribution develops a scalable multi-kernel learning scheme (termed Raker) to obtain the sought nonlinear learning function `on the fly,' first for static environments. To further boost performance in dynamic environments, an adaptive multi-kernel learning scheme (termed AdaRaker) is developed. AdaRaker accounts not only for data-driven learning of kernel combination, but also for the unknown dynamics. Performance is analyzed in terms of both static and dynamic regrets. AdaRaker is uniquely capable of tracking nonlinear learning functions in environments with unknown dynamics, and with with analytic performance guarantees. Tests with synthetic and real datasets are carried out to showcase the effectiveness of the novel algorithms.

연구 동기 및 목표

• 기본 함수가 시간에 따라 변화하고 동역학이 알려져 있지 않은 동적 환경에서 비선형 함수 근사를 해결한다.
• 대규모 온라인 학습에서 전통적 커널 방법의 계산 및 저장 용량 문제를 해결하기 위해 랜덤 특징 근사를 활용한다.
• 최적의 커널이나 동역학에 대한 사전 지식이 없이도 사전에 정의된 커널 사전에서 커널을 적응적으로 조합할 수 있는 확장 가능한 온라인 다중 커널 학습 프레임워크를 개발한다.
• 비정상적, 적대적 또는 시간에 따라 변화하는 환경에서의 온라인 학습에 대해 정적 및 동적 위험 측면에서 이론적 성능 보장을 제공한다.
• 커널 조합과 목표 함수의 시간에 따른 변화를 고려한 분석적 위험 경계를 갖춘 실시간 학습을 가능하게 한다.

제안 방법

• 직교성 유도를 통한 랜덤 특징 근사를 기반으로 한 확장 가능한 온라인 다중 커널 학습 알고리즘인 Raker를 제안하여 분산을 줄이고 일반화 성능을 향상시킨다.
• 재생 커널 힐버트 공간(RKHS) 프레임워크 내에서 표현 정리(representer theorem)를 활용해 학습 함수를 랜덤 특징의 선형 조합으로 표현한다.
• Raker의 적응적 확장판으로서 데이터 변화와 알려지지 않은 동역학에 대응해 커널 가중치를 동적으로 조정하는 AdaRaker를 도입한다.
• 시간 영역을 길이 ΔT의 부분 간격으로 나누어 동적 위험을 유한하게 하기 위해, 위험을 부분 간격 내 정적 위험과 환경 변화에 의한 변동성으로 분리한다.
• 레마 2를 활용해 각 부분 간격 내 정적 위험를 √ΔT 비례하는 항으로 유계화하며, 동적 성분은 손실 함수의 총 변동성으로 유계화한다.
• 횔더 부등식을 적용하고 ΔT를 총 변동성의 함수로 최적화하여 동적 위험 경계를 O(T^{2/3} V^{1/3})로 도출한다. 여기서 V는 손실 함수의 총 변동성이다.

실험 결과

연구 질문

• RQ1 미지의 시간에 따라 변화하는 동역학을 가진 환경에서 온라인 다중 커널 학습을 확장성 있고 적응적으로 만들 수 있는가?
• RQ2 랜덤 특징 근사를 다중 커널 학습과 어떻게 융합할 수 있을까? 이는 온라인 환경에서 낮은 계산 및 메모리 비용을 유지하기 위함이다.
• RQ3 비정상적 환경에서 온라인 학습의 이론적 성능 한계는 무엇이며, 데이터 기반의 커널 선택으로 이를 달성할 수 있는가?
• RQ4 동역학에 대한 사전 지식이 없을 때, 온라인 알고리즘의 동적 위험은 시간 영역과 환경의 변동성에 따라 어떻게 변화하는가?
• RQ5 기본 기준 함수와 최적의 시간에 따라 변화하는 함수를 모두 고려한 위험 경계를 도출할 수 있는가? 이는 동역학이 알려져 있지 않더라도 가능할까?

주요 결과

• 최적의 부분 영역 길이 선택 조건 하에서 AdaRaker는 동적 위험 경계가 O(T^{2/3} V^{1/3})로 고확률적으로 달성된다. 여기서 V는 손실 함수의 총 변동성이다.
• 각 길이 ΔT의 부분 간격 내에서 AdaRaker의 정적 위험는 (C₀ + C₁ ln T)√ΔT로 유계화되어 시간이 지남에 따라 하위선형으로 증가함을 보장한다.
• 알고리즘의 성능는 주어진 커널 사전에 의해 유도된 RKHS 공간들의 합집합 내에서 최적의 동적 함수를 추적할 수 있도록 이론적으로 보장된다.
• 최적 함수의 교체 횟수에 따라 위험 경계가 유리하게 스케일링되며, m개의 함수 변화가 있는 경우 O(√(Tm))의 경계를 갖는다. 여기서 m은 함수 변화의 횟수이다.
• 합성 및 실세계 데이터셋에 대한 실험 평가를 통해 AdaRaker가 비정상적 환경에서 정적 및 비적응형 온라인 학습 기준보다 뛰어난 성능을 보임을 확인하였다.
• 직교성 유도 랜덤 특징의 사용은 특히 고차원 환경에서 표준 랜덤 특징 방법 대비 분산을 크게 줄이고 일반화 성능을 향상시킨다.