[論文レビュー] Resource-aware Elastic Swap Random Forest for Evolving Data Streams

Diego Marrón, Eduard Ayguadé+2 more|arXiv (Cornell University)|May 14, 2019

Data Stream Mining Techniques参考文献 8被引用数 6

ひとこと要約

本稿では、適応的ランダムフォレスト（ARF）の木の数を動的に管理する前線セット（高精度の分類器）と交換候補セットを用いて、ARF100と同等の精度を達成しながら最大66%少ない木で、1サンプルあたりの推論が3倍速くなる、適応的アンサンブル手法であるエラスティックスワップランダムフォレスト（ESRF）を提案する。

ABSTRACT

Continual learning based on data stream mining deals with ubiquitous sources of Big Data arriving at high-velocity and in real-time. Adaptive Random Forest ({\em ARF}) is a popular ensemble method used for continual learning due to its simplicity in combining adaptive leveraging bagging with fast random Hoeffding trees. While the default ARF size provides competitive accuracy, it is usually over-provisioned resulting in the use of additional classifiers that only contribute to increasing CPU and memory consumption with marginal impact in the overall accuracy. This paper presents Elastic Swap Random Forest ({\em ESRF}), a method for reducing the number of trees in the ARF ensemble while providing similar accuracy. {\em ESRF} extends {\em ARF} with two orthogonal components: 1) a swap component that splits learners into two sets based on their accuracy (only classifiers with the highest accuracy are used to make predictions); and 2) an elastic component for dynamically increasing or decreasing the number of classifiers in the ensemble. The experimental evaluation of {\em ESRF} and comparison with the original {\em ARF} shows how the two new components contribute to reducing the number of classifiers up to one third while providing almost the same accuracy, resulting in speed-ups in terms of per-sample execution time close to 3x.

研究の動機と目的

• ARFのデフォルト100木アンサンブルの非効率性を是正する。これは、精度向上のマージンが小さく、過剰に提供されていることが多い。
• 予測性能を損なわず、データストリーム学習における計算およびメモリのオーバーヘッドを低減する。
• 精度とドリフト検出に基づいて、アクティブな分類器の数を動的に調整し、リソース使用を最適化する。
• バックグラウンドで低性能な木をより高性能な候補に交換するスワップ機構を導入する。
• アンサンブルの柔軟性を制御するチューナブルなしきい値を用いて、精度とリソース消費のバランスを取る。

提案手法

• ESRFは、分類器の精度に基づき、アンサンブルを前線セット（アクティブな予測器）と候補セット（バックグラウンドの学習器）に分割する。
• スワップ部は、スワップによって全体のアンサンブル精度が向上する場合に、前線セットの木をより高性能な候補の木に置き換える。
• エラスティック部は、パフォーマンスとドリフト検出信号に基づいて、前線セットのサイズを動的に増減させる。
• 本手法は2つのしきい値、感受性しきい値（Ts）と一般しきい値（Tg）を用い、アンサンブルの拡大または縮小を制御する。
• 各木ごとのドリフト検出器を監視し、ドリフトの警告が発出された際にバックグラウンド学習と潜在的なスワップをトリガーする。
• 最終的なアンサンブルサイズは、スワップによる精度向上とリソース制約の動的な相互作用によって決定される。

実験結果

リサーチクエスチョン

• RQ1 変化するデータストリームにおいて、ARFの木の数を顕著に低下させても分類精度が著しく低下しないか？
• RQ2 前線セットと候補セットの2段階分類器管理戦略（前線 vs. 候補）は、少ない木の数で精度を維持または向上させることができるか？
• RQ3 アンサンブルの動的サイズ変更は、計算効率をどの程度向上させつつ予測性能を保持できるか？
• RQ4 適応的ストリーム学習において、精度とリソース使用量（メモリ、CPU）の最適なトレードオフは何か？
• RQ5 異なるしきい値設定（Ts と Tg）は、得られるESRFモデルのサイズ、速度、精度にどのような影響を与えるか？

主な発見

• ESRFは、平均して木の数を100（ARF100）から33.41に削減し、アンサンブルサイズを66.6%削減した。
• ESRFの平均精度は84.33%であり、ARF100の84.13%と比較して平均で0.19%の向上を示した。
• 1サンプルあたりの推論時間は平均で3.14倍速くなり、データセット間で1.35倍から4.91倍の高速化が達成された。
• 14のデータセットのうち12つで、ESRFとARF100の精度差が-0.05%以内に収まり、最悪ケースでも-0.30%（RTGデータセット）にとどまった。
• よりきついしきい値（Ts = Tg = 0.001）を用いることで、困難なデータセットでも高い精度を達成しながら、平均モデルサイズを小さく維持した。
• 本手法は高い安定性を示し、サイズ（10.31）とスピードアップ（10.31）の標準偏差がともに低く、実験全体で一貫したパフォーマンスを発揮した。