[論文レビュー] Decentralized Online Big Data Classification - a Bandit Framework

Cem Tekin, Mihaela van der Schaar|arXiv (Cornell University)|Aug 21, 2013

Data Stream Mining Techniques参考文献 23被引用数 4

ひとこと要約

本稿は、通信コストを伴う他者の分類関数を含む最適な分類関数を動的に選択することで、個々の報酬からコストを差し引いたものを最大化する、分散型オンライン学習フレームワークを提案する。このフレームワークは、協調的コンテキストバンディットモデルに基づくもので、分類精度と通信コストが未知かつ時間的に変化する中でも、最適性能への収束を保証するサブラーレグレットバウンドを示す。

ABSTRACT

Distributed, online data mining systems have emerged as a result of applications requiring analysis of large amounts of correlated and high-dimensional data produced by multiple distributed data sources. We propose a distributed online data classification framework where data is gathered by distributed data sources and processed by a heterogeneous set of distributed learners which learn online, at run-time, how to classify the different data streams either by using their locally available classification functions or by helping each other by classifying each other's data. Importantly, since the data is gathered at different locations, sending the data to another learner to process incurs additional costs such as delays, and hence this will be only beneficial if the benefits obtained from a better classification will exceed the costs. We assume that the classification functions available to each processing element are fixed, but their prediction accuracy for various types of incoming data are unknown and can change dynamically over time, and thus they need to be learned online. We model the problem of joint classification by the distributed and heterogeneous learners from multiple data sources as a distributed contextual bandit problem where each data is characterized by a specific context. We develop distributed online learning algorithms for which we can prove that they have sublinear regret. Compared to prior work in distributed online data mining, our work is the first to provide analytic regret results characterizing the performance of the proposed algorithms.

研究の動機と目的

• 複数の分散型ソースから得られる高次元でストリーミングされる大規模データの分散型、オンライン分類の課題に対処すること。分類関数の精度が未知かつ動的変化することを想定する。
• 学習者が通信コストと処理コストを考慮しながら、探索（他者の分類器のテスト）と活用（既知の最良分類器の使用）のバランスを取る、協調的コンテキストバンディット問題としての共同分類意思決定プロセスをモデル化すること。
• 遅延または欠落したラベルやコンセプトドリフトが発生しても、理論的保証付きで近似的最適な分類性能に収束する分散型オンライン学習アルゴリズムを設計すること。
• 学習者が個々の利害を最大化することで、リソース使用量を正確に反映するコストが設定されている場合、システム全体としての最適性が達成されることを示すこと。
• コンセプトドリフト、非同期データ到着、アンサンブル／教師なし学習者といった実世界の課題に対応するため、フレームワークを拡張すること。

提案手法

• 各データインスタンスが文脈（例：時刻、場所、特徴量）に関連付けられ、各学習者が文脈に基づいて自らの分類器を使用するか、他者に委任するかという行動（アクション）を選択する、協調的コンテキストバンディット問題として分類意思決定プロセスをモデル化する。
• 期待報酬（精度からコストを差し引いたもの）の推定値を各可能なアクション（分類器）ごとに維持し、UCB（上界確信区間）スタイルの探索を用いて学習と性能のバランスを取る分散型オンライン学習アルゴリズム（CoS）を導入する。
• 累積レグレットに対する新しいレグレット解析を適用し、サブラーレグレット上界を証明することで、完全な知識がある場合に達成可能な最適報酬に、長期的に平均報酬が収束することを保証する。
• 欠落したラベルに対応するために、探索段階と訓練段階を調整し、部分的フィードバック下でも正確な報酬推定値を維持する。
• 変化するデータ分布を進化する文脈として扱い、分類器性能の継続的再推定を可能にする仕組みを導入することで、コンセプトドリフトへの適応を実現する。
• アンサンブル学習者および教師なし学習者を支援するため、ラベルを受け取らずに他者の予測から学習できるようにし、文脈に基づく予測選択を可能にする。

実験結果

リサーチクエスチョン

• RQ1 分類器の精度と通信コストが未知かつ時間的に変化する大規模データシステムにおいて、分散型で協調的な学習フレームワークが、近似的最適な分類性能を達成できるか。
• RQ2 ストリーミングで高次元のデータが入力される状況下で、通信コストと処理コストを考慮した制約のもとで、分散型学習者が未知の分類器のテスト（探索）と既知の優良分類器の使用（活用）のバランスをどのように取れるか。
• RQ3 遅延または欠落したフィードバック、非同期到着、コンセプトドリフトが存在する状況下でも、サブラーレグレットバウンドがどの程度有効に保たれるか。
• RQ4 分類器の品質が異なる学習者の参加が、システム全体の性能と誤差率に及ぼす影響はどの程度か。
• RQ5 ラベルではなく文脈情報のみを共有する場合、性能は維持可能か。その場合、どのような条件下で維持可能となるか。

主な発見

• 提案されたCoSアルゴリズムはサブラーレグレットを達成し、完全な知識がある場合の最適報酬に平均報酬が収束することを証明する。理論的境界により、長期的収束が保証される。
• ネットワークセキュリティデータ分類の実験では、特定の設定下でCoSは総誤差を5.9%および10.2%にまで低減した（DCZAは3.8%および4.94%）。文脈に依存する学習による強力な性能を示した。
• ラベル観測確率が1から0.01に低下した場合、CoSの誤差は47.1%に上昇し、DCZAは56.6%に上昇した。フィードバック欠落への感受性は示したが、依然として妥当な性能を維持していた。
• 精度が悪い分類器を備えた新たな学習者を追加すると、誤差率が上昇（例：CoSでは約22%から約50%に上昇）した一方、より優れた学習者を追加すると誤差率が低下した。これにより、学習者の品質がシステム全体の性能に与える影響が確認された。
• 通信コストが上昇するにつれ、学習者は次第に自らの劣化した分類器に依存するようになり、CoSでは誤差が0.9%から23.7%に上昇した。コスト感受性が明確に示された。
• データそのものではなく文脈情報のみを共有した場合（例：S2設定）、誤差率は23.8%に上昇した。これは、文脈情報のみで低レグレットを達成するには、元のデータまたは高品質な分類器が不可欠であることを示している。