[논문 리뷰] Adapting to Non-stationarity with Growing Expert Ensembles

Cosma Rohilla Shalizi, Abigail Z. Jacobs외 2명|arXiv (Cornell University)|2011. 03. 04.

Advanced Bandit Algorithms Research참고 문헌 20인용 수 13

한 줄 요약

이 논문은 새로운 데이터가 도착할 때마다 동적으로 새로운 모델을 온라인 예측 시스템에 추가하는 성장 전문가 앙상블 방법을 제안한다. 이는 고정되거나 잘 정의된 모델을 가정하지 않고 비_stationary(비정상) 시계열에 적응할 수 있도록 한다. 고정 공유 알고리즘을 확장된 전문가 집합에 적용함으로써, 시간에 따라 가장 좋은 전문가 시퀀스에 대해 o(n)의 정규화 오차를 달성하며, 임의의 비정상성 상황에서도 강력한 후행 성능 보장을 보장한다.

ABSTRACT

When dealing with time series with complex non-stationarities, low retrospective regret on individual realizations is a more appropriate goal than low prospective risk in expectation. Online learning algorithms provide powerful guarantees of this form, and have often been proposed for use with non-stationary processes because of their ability to switch between different forecasters or ``experts''. However, existing methods assume that the set of experts whose forecasts are to be combined are all given at the start, which is not plausible when dealing with a genuinely historical or evolutionary system. We show how to modify the ``fixed shares'' algorithm for tracking the best expert to cope with a steadily growing set of experts, obtained by fitting new models to new data as it becomes available, and obtain regret bounds for the growing ensemble.

연구 동기 및 목표

• 기존 온라인 학습 방법이 초기 설정 시 고정된 전문가 집합을 가정한다는 한계를 해결하기 위해.
• 잘 정의된 파라미터 모델이나 구조적 변화 가정 없이도 임의의 비정상성에 적응할 수 있는 예측 프레임워크를 개발하기 위해.
• 점차적으로 추가되고 업데이트되는 새로운 모델을 포함하는 성장 전문가 앙상블에 대해 이론적 정규화 오차 경계를 제공하기 위해.
• 장기간 동안 한 개의 모델이 유효하지 않은 복잡하고 변화하는 시스템에서도 개별 시퀀스 예측의 강건성을 보장하기 위해.

제안 방법

• 모든 τ 시간 단위마다 새로운 전문가를 추가함으로써 성장 전문가 앙상블을 도입하며, 각 전문가는 점점 짧아지는 최근 데이터 윈도우에 맞춰 피팅된다. 이는 가장 최근 데이터 포인트에서 시작한다.
• 각 새로운 전문가는 기본 설정된 파라미터로 초기화된 후, 들어오는 데이터를 바탕으로 지속적으로 업데이트되어 현재의 동적 특성과 관련성이 유지된다.
• 고정 공유 알고리즘을 수정하여 각 전문가에게 최소 무게(고정 공유)를 유지함으로써, 이전에 성능이 좋지 않았던 전문가가 효과적으로 될 경우 빠르게 복구할 수 있도록 한다.
• 예측 결과는 지수 가중 평균을 사용해 통합되며, 이는 전문가의 성능이 앙상블 평균 대비 얼마나 우수한지에 따라 가중치를 곱하기 방식으로 조정된다.
• 정규화 분석은 증가하는 전문가 수와 임의의 열악한 개별 전문가의 가능성을 고려하지만, 여전히 가장 좋은 전문가 시퀀스에 대해 o(n)의 정규화 오차를 보장한다.
• 이 프레임워크는 점진적 드리프트나 비구조적 변화를 포함한 임의의 비정상성에 대해 강건하며, 데이터 생성 과정에 대한 사전 가정이 필요하지 않다.

실험 결과

연구 질문

• RQ1 비정상 시계열에서 초기에 고정된 전문가 집합이 아닌 지속적으로 성장하는 전문가 집합을 다룰 수 있도록 온라인 학습 알고리즘을 어떻게 적응시킬 수 있는가?
• RQ2 개별 전문가가 성능이 열 劣하거나 중요도가 변화할 수 있는 상황에서 성장 전문가 앙상블에 대해 어떤 정규화 오차 경계를 설정할 수 있는가?
• RQ3 전문가 수가 시간이 지남에 따라 증가할 경우 고정 공유 알고리즘을 어떻게 수정하여 성능 보장을 유지할 수 있는가?
• RQ4 잘 정의된 모델이나 구조적 변화를 가정하지 않고도 임의의 비정상성 상황에서 Hannan 일致성과 o(n)의 정규화 오차를 달성할 수 있는가?
• RQ5 에포크 길이 τ는 성장 전문가 앙상블의 성능과 정규화 오차 경계에 어떤 영향을 미치는가?

주요 결과

• 제안된 성장 전문가 앙상블 방법은 앙상블이 확장되고 개별 전문가가 임의로 열 劣하더라도, n 시간 단위 동안 가장 최적의 전문가 시퀀스에 대해 o(n)의 정규화 오차를 달성한다.
• 정규화 오차 경계는 O(√(n((m+1)ln q + (n−1)H(m/(n−1))))로 표현되며, 여기서 m는 전문가 전환 수, q는 기본 전문가 수이며, 성장 전문가 앙상블에 맞게 조정된다.
• 이 방법은 Hannan 일치성을 유지하여, 후행적으로 가장 좋은 전문가 시퀀스에 비해 누적 손실이 선형보다 느리게 증가함을 보장한다.
• 고정 공유 메커니즘이 성장 전문가 앙상블으로 성공적으로 확장되어, 성능이 열 劣한 전문가로부터의 신속한 복구 능력을 유지한다.
• 미국 GDP 데이터에 대한 실증 결과는 성장 전문가 앙상블이 전역 스퍼라인 스무딩과 ARMA(8,7) 모델의 조합보다 누적 정규화 오차 측면에서 뛰어난 성능을 보임을 보여준다.
• 이 프레임워크는 임의의 비정상성에 강건하며, 추세나 구조적 변화, 잘 정의된 모델에 대한 가정이 필요하지 않다.