[論文レビュー] Supervised learning Methods for Bangla Web Document Categorization

Ashis Kumar Mandal, Rikta Sen|arXiv (Cornell University)|Oct 8, 2014

Text and Document Classification Technologies参考文献 21被引用数 8

ひとこと要約

この論文は、独自に構築したバングラ語コーパスを用いて、バングラ語Webドキュメントの分類のための4つの教師あり学習手法—決定木（C4.5）、K近傍法（KNN）、ナイーブベイズ（NB）、サポートベクターマシン（SVM）—を評価している。結果として、SVMが他の手法を上回り、特に高次元でノイズの多い特徴ベクトルにおいても優れた効果を示しており、バングラ語テキスト分類タスクにおける強力な有効性が裏付けられた。

ABSTRACT

This paper explores the use of machine learning approaches, or more specifically, four supervised learning Methods, namely Decision Tree(C 4.5), K-Nearest Neighbour (KNN), Naïve Bays (NB), and Support Vector Machine (SVM) for categorization of Bangla web documents. This is a task of automatically sorting a set of documents into categories from a predefined set. Whereas a wide range of methods have been applied to English text categorization, relatively few studies have been conducted on Bangla language text categorization. Hence, we attempt to analyze the efficiency of those four methods for categorization of Bangla documents. In order to validate, Bangla corpus from various websites has been developed and used as examples for the experiment. For Bangla, empirical results support that all four methods produce satisfactory performance with SVM attaining good result in terms of high dimensional and relatively noisy document feature vectors.

研究の動機と目的

• バングラ語テキスト分類における教師あり学習研究の不足を補うために、複数の機械学習手法を評価すること。
• 分野特化型のバングラ語Webドキュメントコーパスを構築し、分類モデルの学習およびテストに活用すること。
• 4つの代表的な教師あり学習アルゴリズムがバングラ語テキストデータに対してどのように性能を発揮するかを比較すること。
• 高次元でノイズの多い特徴ベクトルを扱う際、どの手法が最も効果的であるかを特定すること。
• 今後のバングラ語自然言語処理分野の研究に役立つ検証済みベンチマークを提供すること。

提案手法

• C4.5決定木、K近傍法（KNN）、ナイーブベイズ（NB）、サポートベクターマシン（SVM）の4つの教師あり学習アルゴリズムを、バングラ語テキスト分類に適用した。
• さまざまなウェブサイトから収集したデータをもとに、独自のバングラ語Webドキュメントコーパスを構築した。
• バングラ語の script および構造的特徴に適合したトークン化と特徴抽出を含むテキスト前処理を実施した。
• テキストを数値特徴に変換するため、bag-of-words や類似の表現手法を用いて文書ベクトルを生成した。
• 分類モデルをコーパス上で学習させ、標準的な指標（正解率、適合率、再現率など）を用いて評価した。
• 特徴次元数やノイズレベルを変化させた条件下で、モデルの性能を比較する実験を実施した。

実験結果

リサーチクエスチョン

• RQ1 どの教師あり学習手法がバングラ語Webドキュメントの分類において最も高い正解率を達成するか？
• RQ2 C4.5、KNN、NB、SVM の4つの手法は、高次元でノイズの多いバングラ語テキスト特徴ベクトルに対して、どのように性能を発揮するか？
• RQ3 英語言語環境と比較して、アルゴリズムの選択がバングラ語テキスト分類のパフォーマンスにどの程度影響を与えるか？
• RQ4 独自に構築したバングラ語コーパスは、ドキュメント分類のための教師あり学習を支援するのにどの程度有効か？
• RQ5 SVMは、バングラ語テキスト分類において、特徴のノイズや次元数の増加に対して優れた耐性を示すか？

主な発見

• サポートベクターマシン（SVM）は、すべての4つの手法の中でバングラ語Webドキュメント分類において最も高いパフォーマンスを達成した。
• SVMは、特に高次元でややノイズの多い文書特徴ベクトルにおいて、強く頑健で効果的な性能を示した。
• ナイーブベイズ（NB）とK近傍法（KNN）は、SVMに比べて満足のいくがやや低いパフォーマンスを示した。
• C4.5決定木手法は、適切な性能を示したが、与えられたバングラ語コーパスではSVMに劣った。
• 実証的結果から、適切な特徴工学を施せば、教師あり学習手法がバングラ語テキスト分類に効果的に適用可能であることが確認された。
• 本研究により、テスト条件下でSVMがバングラ語Webドキュメント分類に最も適したアルゴリズムであることが確立された。