[論文レビュー] Adapting to Non-stationarity with Growing Expert Ensembles

Cosma Rohilla Shalizi, Abigail Z. Jacobs+2 more|arXiv (Cornell University)|Mar 4, 2011

Advanced Bandit Algorithms Research参考文献 20被引用数 13

ひとこと要約

本稿では、新しいデータが到着する度にオンライン予測システムに新たなモデルを動的に追加する成長型エキスパートアンサンブル手法を提案する。固定または明確に定義されたモデルを仮定しない非ステーションナリティ時間系列に適応可能であり、時間経過における最良のエキスパートの系列に対する o(n) のリグレットを達成する。固定シェアアルゴリズムを拡張されたエキスパート集合に対応させるように修正することで、任意の非定常性下でも強い後向き性能保証を実現する。

ABSTRACT

When dealing with time series with complex non-stationarities, low retrospective regret on individual realizations is a more appropriate goal than low prospective risk in expectation. Online learning algorithms provide powerful guarantees of this form, and have often been proposed for use with non-stationary processes because of their ability to switch between different forecasters or ``experts''. However, existing methods assume that the set of experts whose forecasts are to be combined are all given at the start, which is not plausible when dealing with a genuinely historical or evolutionary system. We show how to modify the ``fixed shares'' algorithm for tracking the best expert to cope with a steadily growing set of experts, obtained by fitting new models to new data as it becomes available, and obtain regret bounds for the growing ensemble.

研究の動機と目的

• 初期段階で固定されたエキスパート集合を仮定する従来のオンライン学習手法の限界を克服すること。これは、進化するか歴史的なシステムでは現実的ではない。
• パラメトリックモデルや構造的変化の仮定を必要とせず、時間系列の任意の非定常性に適応できる予測フレームワークを開発すること。
• 徐々に追加される新しいモデルを含む成長型エキスパートアンサンブルに対する理論的リグレットバウンドを提供すること。
• 長期間にわたり単一のモデルが有効でない複雑で進化するシステムにおいて、強固な個別シーケンス予測を可能にすること。

提案手法

• 本手法は、τ時間ステップごとに新しいエキスパートを追加することで成長型アンサンブルを構築し、それぞれが最近のデータの短いウィンドウに適合させる。
• 各新しいエキスパートは、初期パラメータ設定をデフォルトで持ち、継続的に流入するデータに基づいて更新され、現在のダイナミクスに適合する。
• 固定シェアアルゴリズムを変更し、各エキスパートに最小の重み（固定シェア）を維持させることで、過去に成績が悪かったエキスパートが再び有効になる際に迅速に回復できるようにする。
• 予測値は指数的重み平均を用いて結合され、重みはアンサンブル平均に対する相対的パフォーマンスに応じて乗法的に調整される。
• リグレット解析では、エキスパート数の増加と、任意に劣悪な個々のエキスパートの可能性を考慮しつつも、最良のエキスパート系列に対する o(n) のリグレットを保証する。
• 本フレームワークは、段階的ドリフトや構造的変化のない非定常性を含む任意の非定常性を扱えるが、データ生成プロセスに関する事前仮定は不要である。

実験結果

リサーチクエスチョン

• RQ1 非定常時間系列において、初期に固定されたエキスパート集合ではなく、継続的に拡大するエキスパート集合を扱えるようにオンライン学習アルゴリズムをどのように適合できるか。
• RQ2 個々のエキスパートがパフォーマンスが悪くなるか、重要性が変化する可能性がある状況下で、成長型エキスパートアンサンブルに対するリグレットバウンドをどのように確立できるか。
• RQ3 エキスパート数が時間経過とともに増加する状況で、固定シェアアルゴリズムをどのように変更すれば性能保証を維持できるか。
• RQ4 well-specifiedモデルや構造的変化の仮定なしに、任意の非定常性に直面しても、Hannan一貫性と o(n) のリグレットを達成することは可能か。
• RQ5 エポック長 τ が成長型アンサンブルの性能とリグレットバウンドに与える影響は何か。

主な発見

• 提案された成長型エキスパートアンサンブル手法は、アンサンブルが拡大し、個々のエキスパートが任意に劣悪であっても、時間ステップ数 n に対するリグレットが o(n) であることを達成する。
• リグレットバウンドは、O(√(n((m+1)ln q + (n−1)H(m/(n−1)))) ) に比例する。ここで m はエキスパートの切り替え回数、q はベースエキスパート数であり、成長型アンサンブルに適応された形で調整されている。
• 本手法はHannan一貫性を維持し、後向きに最良のエキスパート系列に対する累積損失が線形より小さい速度で増加することを保証する。
• 固定シェアメカニズムは成長型アンサンブルに成功裏に拡張され、劣悪なエキスパートからの迅速な回復能力が保持された。
• 米国GDPデータに対する実験結果では、成長型アンサンブルがグローバルスプラインスムージングとARMA(8,7)モデルの組み合わせを上回る蓄積リグレット性能を示した。
• 本フレームワークは任意の非定常性に対してロバストであり、トレンドや構造的変化、well-specifiedモデルに関する仮定を必要としない。