[論文レビュー] Detecting and Adapting to Irregular Distribution Shifts in Bayesian Online Learning

Aodong Li, Alex Boyd+2 more|arXiv (Cornell University)|Dec 15, 2020

Data Stream Mining Techniques被引用数 4

ひとこと要約

本稿では、変化点検出と動的温度調整を組み合わせることで、不規則な分布シフトを検出し、適応するモデルに依存しないベイジアンオンライン学習フレームワークを提案する。変化変数を導入することで、過去の事後分布を動的に温度調整し、部分的 forgettingを実現する。複数の変化点仮説を走査するビームサーチを用いることで、教師ありおよび教師なし設定の両方で概念的シフトおよび共変量シフトのタスクにおいて、センサデータ、マルウェア、ワードエムbeddingsを含む実世界のデータセットで最先端の手法を上回る性能を達成する。

ABSTRACT

We consider the problem of online learning in the presence of distribution shifts that occur at an unknown rate and of unknown intensity. We derive a new Bayesian online inference approach to simultaneously infer these distribution shifts and adapt the model to the detected changes by integrating ideas from change point detection, switching dynamical systems, and Bayesian online learning. Using a binary 'change variable,' we construct an informative prior such that--if a change is detected--the model partially erases the information of past model updates by tempering to facilitate adaptation to the new data distribution. Furthermore, the approach uses beam search to track multiple change-point hypotheses and selects the most probable one in hindsight. Our proposed method is model-agnostic, applicable in both supervised and unsupervised learning settings, suitable for an environment of concept drifts or covariate drifts, and yields improvements over state-of-the-art Bayesian online learning approaches.

研究の動機と目的

• モデルの展開後、不規則的かつ予測不能に変化するデータ分布の問題に対処すること。
• シフトの頻度や強度について事前に設定された仮定を必要とせず、過去の知識の記憶と新しいデータ分布への適応のバランスを取ること。
• 教師ありおよび教師なし学習の両方に対応するスケーラブルでモデルに依存しない手法を開発し、変化検出とベイジアンオンライン学習を統合すること。
• 自律システム、金融取引、NLPアプリケーションなどの非ステーションナリティ環境における一般化性能とロバストネスを向上させること。

提案手法

• 入ってくるデータが現在のデータ分布と整合しているかどうかを示す二値の「変化変数」を導入し、動的な適応を可能にする。
• 変化変数を用いてベイジアンオンライン学習における事前分布を条件づけ、シフトが検出された際に事後分布の温度調整により過去の情報を部分的に消去する。
• 後向きに最も妥当なシフトの系列を特定するために、複数の変化点仮説を走査するビームサーチを採用する。
• 画像回転によって引き起こされる共変量シフトを伴う順次的なSVHN/CIFAR-10と、ワードエムbeddingのダイナミクスを含む、教師ありおよび教師なし設定にフレームワークを適用する。
• 時間経過に伴う意味的変化をモデル化するため、コンパクトで解釈可能な潜在構造を用いた変分ベイズ推論を採用する。
• 探索を強化するために、順位付けの前に下位2つの仮説を破棄することで、ビームの多様性を高める。

実験結果

リサーチクエスチョン

• RQ1 頻度や強度について事前の知識がない状況下で、ベイジアンオンライン学習システムが不規則な分布シフトをどのように検出できるか。
• RQ2 有用な過去データの記憶を保持しつつ、新しいデータ分布への適応を効果的に行うためのメカニズムは何か。
• RQ3 統一されたフレームワークが変化検出とベイジアンオンライン学習を統合し、多様な実世界のデータセットで性能を向上させられるか。
• RQ4 本手法は、概念的シフトおよび共変量シフトの処理において、最先端の手法と比較してどのように差をつけるか。
• RQ5 本手法は、時間経過に伴うワードエムbeddingにおける解釈可能な意味的シフトをどの程度正確にモデル化できるか。

主な発見

• バスケットボール選手の軌跡、マルウェアの特徴、センサデータ、電力料金など、概念的シフトを示すデータセットにおいて、最先端のベイジアンオンライン学習手法を著しく上回る性能を示した。
• 画像回転による共変量シフトを伴う順次的SVHNおよびCIFAR-10では、ベースラインと比較して一般化性能とロバストネスが向上した。
• 教師なしのワードエムbedding解析において、1945年に「atom」が「element」から「nuclear」へと意味的シフトするのを捉え、冷戦終了後1991年以降に「race」が意味的に変化するのを捉えた。
• ビームサーチ機構により、複数の妥当な変化点系列を追跡可能となり、シフト検出のロバストネスと正確性が向上した。
• モデルは非常にスケーラブルであり、数十万のパラメータと数万の特徴次元を持つモデルに対しても効果的に適用された。
• レート歪み曲線から、本手法は全エピソード長にわたり「ビニング」ベースラインよりも低いL1日付誤差を達成しており、1年あたりの意味的変化の許容数が増えるに従い誤差が減少した。