[論文レビュー] CTBNCToolkit: Continuous Time Bayesian Network Classifier Toolkit

Daniele Codecasa, Fabio Stella|arXiv (Cornell University)|Apr 18, 2014

Bayesian Modeling and Causal Inference参考文献 20被引用数 4

ひとこと要約

本論文では、連続時間ベイジアンネットワーク分類器（CTBNC）を用いた時系列分類のためのオープンソースJavaツールキット、CTBNCToolkitを紹介する。このツールキットは、時間依存性を示す多次元ストリーミングデータに対して、推論、パラメータ学習、構造学習、クラスタリングを可能にする。マージナルおよび条件付き対数尤度スコアリング、EMベースのクラスタリング、複数の検証手法をサポートし、医療、金融、システム監視分野における科学的および実世界の応用に適した柔軟で拡張可能なフレームワークを提供する。

ABSTRACT

Continuous time Bayesian network classifiers are designed for temporal classification of multivariate streaming data when time duration of events matters and the class does not change over time. This paper introduces the CTBNCToolkit: an open source Java toolkit which provides a stand-alone application for temporal classification and a library for continuous time Bayesian network classifiers. CTBNCToolkit implements the inference algorithm, the parameter learning algorithm, and the structural learning algorithm for continuous time Bayesian network classifiers. The structural learning algorithm is based on scoring functions: the marginal log-likelihood score and the conditional log-likelihood score are provided. CTBNCToolkit provides also an implementation of the expectation maximization algorithm for clustering purpose. The paper introduces continuous time Bayesian network classifiers. How to use the CTBNToolkit from the command line is described in a specific section. Tutorial examples are included to facilitate users to understand how the toolkit must be used. A section dedicate to the Java library is proposed to help further code extensions.

研究の動機と目的

• 時間的ダイナミクスが変動するストリーミングデータを扱う際、離散時刻モデルの限界を克服すること。
• CTBNCを用いた時系列分類のためのスケーラブルで拡張可能かつオープンソースのソフトウェアソリューションを提供すること。
• 多次元時系列データに対して、教師あり分類と教師なしクラスタリングの両方をサポートすること。
• 研究者や実務家が医療、金融、システム監視などの実世界分野でCTBNCを活用できるようにすること。
• モジュラーなJavaライブラリおよびコマンドラインインターフェースを通じて、モデルの比較・検証・大規模な分析パイプラインへの統合を容易にすること。

提案手法

• ツールキットは、多次元時系列データの軌道から分類ラベルを予測するためのCTBNC推論アルゴリズムを実装している。
• 観測された時系列データからの最尤推定を用いたパラメータ学習をサポートしている。
• 構造学習は、マージナル対数尤度および条件付き対数尤度スコアを用いたスコアリング関数によって実行される。
• 期待値最大化（EM）アルゴリズムを実装し、ソフトアサインメントおよびハードアサインメントの両方のオプションを提供している。
• コマンドラインインターフェースにより、パラメータ（ホールドアウト法、k分割交差検証を含む）を柔軟に設定可能にしている。
• Javaライブラリは拡張性を考慮して設計されており、リフレクションベースのメソッド呼び出しと動的パラメータ処理により、カスタムアプリケーションへの統合が可能である。

実験結果

リサーチクエスチョン

• RQ1 連続時間ベイジアンネットワーク分類器を効果的に実装し、再利用可能なソフトウェアツールキットとして公開するにはどうすればよいか？
• RQ2 CTBNCにおける構造学習に最も効果的なスコアリング関数は何か？また、性能面での比較はどのようになるか？
• RQ3 ソフトおよびハードアサインメントを用いたEMベースのクラスタリングは、CTBNCにおける時系列データに効果的に適用可能か？
• RQ4 科学的および産業的利用を想定したCTBNCのためのモジュラーで拡張可能かつ使いやすいインターフェースを設計するにはどうすればよいか？
• RQ5 ストリーミングデータにおけるCTBNCモデルの評価に最も適した検証戦略は何か？

主な発見

• CTBNCToolkitは、CTBNCのすべてのコアモジュール（推論、パラメータ学習、構造学習、クラスタリング）を正常に実装している。
• 構造学習にはマージナル対数尤度および条件付き対数尤度の2つのスコアリング関数をサポートしており、モデルの比較と選択が可能である。
• ホールドアウト法、k分割交差検証、およびクラスタリング固有の検証を含む複数の検証手法がネイティブにサポートされており、性能評価の信頼性が確保されている。
• コマンドラインインターフェースにより、動的に拡張可能な修飾子システムを通じて、学習およびテストパラメータの柔軟な設定が可能である。
• Javaライブラリは拡張性を考慮して設計されており、リフレクションベースのメソッド呼び出しとモジュラーアーキテクチャにより、大規模なアプリケーションへの統合が可能である。
• 本ツールキットは今後の拡張にも対応可能であり、親を持つクラスノードや部分観測可能な軌道のサポートが今後追加される予定である。