[논문 리뷰] Detecting and Adapting to Irregular Distribution Shifts in Bayesian Online Learning

Aodong Li, Alex Boyd외 2명|arXiv (Cornell University)|2020. 12. 15.

Data Stream Mining Techniques인용 수 4

한 줄 요약

이 논문은 모델에 종속되지 않는 베이지안 온라인 학습 프레임워크를 제안하며, 변화점 변수를 도입하여 불규칙한 분포 이탈을 탐지하고 동적으로 과거의 사후 확률을 조정함으로써 부분적 기억 상실을 가능하게 한다. 변화점 가설에 대한 빔 검색을 통해, 이 방법은 감독 및 비감독 설정에서 개념 이탈 및 공변량 이탈 작업에서 최첨단 기법들을 능가하는 성능을 보이며, 센서 데이터, 악성코드, 단어 임베딩을 포함한 실제 데이터셋에서 성능 향상을 이룬다.

ABSTRACT

We consider the problem of online learning in the presence of distribution shifts that occur at an unknown rate and of unknown intensity. We derive a new Bayesian online inference approach to simultaneously infer these distribution shifts and adapt the model to the detected changes by integrating ideas from change point detection, switching dynamical systems, and Bayesian online learning. Using a binary 'change variable,' we construct an informative prior such that--if a change is detected--the model partially erases the information of past model updates by tempering to facilitate adaptation to the new data distribution. Furthermore, the approach uses beam search to track multiple change-point hypotheses and selects the most probable one in hindsight. Our proposed method is model-agnostic, applicable in both supervised and unsupervised learning settings, suitable for an environment of concept drifts or covariate drifts, and yields improvements over state-of-the-art Bayesian online learning approaches.

연구 동기 및 목표

• 모델 배포 후 데이터 분포가 비정규적이고 예측 불가능하게 변화하는 온라인 학습 환경에서의 분포 이탈 문제를 해결하기 위해.
• 이격 빈도나 강도에 대한 사전 설정된 가정 없이도 과거 지식을 기억하고 새로운 데이터 분포에 적응할 수 있도록 모델이 균형을 이루도록 하기 위해.
• 감독 및 비감독 학습 모두에 적용 가능한 확장성 있고 모델에 종속되지 않는 방법을 개발하여 변화 탐지와 베이지안 온라인 학습을 통합하기 위해.
• 자율주행 시스템, 금융 거래, NLP 응용 분야와 같은 비정상적인 환경에서 일반화 및 강인성을 향상시키기 위해.

제안 방법

• 도래하는 데이터가 현재 데이터 분포와 호환되는지 여부를 나타내는 이진 '변화 변수'를 도입하여 동적 적응을 가능하게 한다.
• 변화 변수를 사용해 베이지안 온라인 학습에서 사전 확률을 조건화함으로써, 변화가 감지될 경우 사후 확률 조정을 통해 과거 정보의 부분적 삭제를 허용한다.
• 다양한 변화점 가설에 대한 빔 검색을 통해 과거의 가장 가능성이 높은 변화점 시퀀스를 추적하고 선택한다.
• 감독 및 비감독 설정 모두에 적용되며, 이미지 회전으로 인한 공변량 이탈이 발생하는 순차적 SVHN/CIFAR-10 및 단어 임베딩의 동적 변화를 포함한다.
• 시간에 따라 변화하는 의미를 모델링하기 위해 간결하고 해석 가능한 잠재 구조를 사용한 변분 베이지안 추론을 적용한다.
• 탐색의 다양성을 높이기 위해 순위 매기기 이전에 상위 두 개 이하의 가설을 제거함으로써 빔 다각화를 구현한다.

실험 결과

연구 질문

• RQ1 빈도나 강도에 대한 사전 지식 없이도, 베이지안 온라인 학습 시스템이 비정규적인 분포 이탈을 어떻게 탐지할 수 있는가?
• RQ2 유용한 과거 데이터 기억을 유지하면서도 새로운 데이터 분포에 효과적으로 적응할 수 있는 메커니즘은 무엇인가?
• RQ3 통합된 프레임워크가 변화 탐지와 베이지안 온라인 학습을 통합하여 다양한 실제 데이터셋에서 성능 향상을 이룰 수 있는가?
• RQ4 제안된 방법은 개념 이탈과 공변량 이탈을 다룰 때 최첨단 기법들과 비교하여 어떻게 성능을 냈는가?
• RQ5 이 방법은 시간에 따라 변화하는 단어 임베딩에서 의미적 이탈을 얼마나 잘 모델링할 수 있는가?

주요 결과

• 농구 선수의 이동 경로, 악성코드 특성, 센서 데이터, 전기 요금 등 개념 이탈이 발생하는 데이터셋에서 최첨단 베이지안 온라인 학습 기법들을 크게 능가하는 성능을 보였다.
• 이미지 회전으로 인한 공변량 이탈이 발생하는 순차적 SVHN 및 CIFAR-10에서, 기준 모델 대비 더 뛰어난 일반화 및 강인성을 확보하였다.
• 비감독적 단어 임베딩 분석에서, '원자'가 1945년에 '요소'에서 '핵'으로 의미가 변화하는 등 해석 가능한 의미 이탈을 포착하였다. 또한 냉전 종료 이후 1991년 이후로 '레이스'의 의미가 변화하는 것도 포착하였다.
• 빈 검색 기반 메커니즋试로 여러 가지 가능한 변화점 시퀀스를 추적할 수 있었으며, 이는 변화점 탐지의 강인성과 정확도를 향상시켰다.
• 모델는 매우 확장 가능했으며, 수십만 개의 파라미터와 수천 개의 특성 차원을 가진 모델에 성공적으로 적용되었다.
• 비용-왜곡 곡선을 통해, 모든 에피소드 길이에서 '빈 분할' 기준 대비 더 낮은 L1 연도 오차를 기록하였으며, 연간 允許되는 의미 변화 수가 많아질수록 오차가 감소하는 경향을 보였다.