[論文レビュー] Text Classification Using Association Rules, Dependency Pruning and Hyperonymization

Yannis Haralambous, Philippe Lenca|arXiv (Cornell University)|Jan 1, 2014

Data Mining Algorithms and Applications参考文献 23被引用数 23

ひとこと要約

本稿では、依存構文解析を用いたプルーニングとハイパーニム化を統合することで関連ルールマイニングを強化するルールベースのテキスト分類手法を提案する。語をそのハイパーニムに置き換え、文法的依存関係に基づいてフィルタリングすることで、分類精度と解釈可能性が向上し、文あたり10語でF-measureが83.99に達し、従来のtfidfベースのプルーニングを上回る。

ABSTRACT

We present new methods for pruning and enhancing item- sets for text classification via association rule mining. Pruning methods are based on dependency syntax and enhancing methods are based on replacing words by their hyperonyms of various orders. We discuss the impact of these methods, compared to pruning based on tfidf rank of words.

研究の動機と目的

• 言語的知識を関連ルールマイニングに統合することで、テキスト分類の精度と解釈可能性を向上させること。
• 文法的依存関係に基づくプルーニングにより、ノイズを低減し特徴の関連性を向上させること。
• さまざまな順序のハイパーニムへの語の置換により、意味的豊かさを向上させること。
• ブラックボックスモデルと比較して、より理解しやすく人間が解釈可能な分類モデルを提供すること。
• 従来のtfidfベースの特徴選択と比較して、依存関係に基づくプルーニングとハイパーニム化の影響を評価すること。

提案手法

• 依存構文解析から得られる形態素的・構文的制約を用いてプルーニングを行い、文法的基準を満たす語のみを保持する。
• 文内の語をそのハイパーニム（例：'dog' → 'animal'）に置き換えることで、意味的一般化とルールカバレッジを向上させる。
• ハイパーニム化を複数の段階（一次、二次など）にわたって適用し、意味的深さの分類への影響を調査する。
• プルーニングおよび強化されたアイテムセットからクラス関連ルール（CARs）をマイニングし、サポートと信頼度の閾値を適用する。
• トランザクションは文単位で形成され、各文を文書レベルのアイテムセットとして扱い、ルールマイニングに用いる。
• 新規テキストの分類には、その語が既存のCARs内のアイテムセットと一致することを基に、投票または信頼度スコアリングによる予測の集約を行う。

実験結果

リサーチクエスチョン

• RQ1 依存関係に基づくプルーニングは、tfidfベースのプルーニングと比較して、分類のF-measureにおいてどのように異なるか？
• RQ2 ハイパーニム化は分類性能およびルールの解釈可能性をどの程度向上させるか？
• RQ3 本フレームワークにおいて、F-measureを最大化するための文あたりの語数（トランザクションサイズ）の最適値は何か？
• RQ4 依存関係制約は予測クラスの多様性と分散にどのように影響するか？
• RQ5 ハイパーニム化による意味的豊かさの向上は、過学習を低減し一般化性能を向上させるか？

主な発見

• 提案手法は、文あたり10語でF-measureが83.99に達し、同じトランザクションサイズのtfidfベースのプルーニングを上回った。
• 依存関係に基づくプルーニングにより、1文あたりの予測クラス数（多様性）は約3.1にまで低下し、一貫性が向上しノイズが減少した。
• 1語のトランザクションでtfidfベースのプルーニングを実行した場合、平均F-measureは65.69であったが、これは最適設定の提案手法が上回った。
• 予測の分散はトランザクションサイズに伴い徐々に増加し、N=12およびN=13でピークに達した。これは予測の多様性が増加したためと推察される。
• ハイパーニム化により意味的一般化が向上し、高い信頼度を維持したまま、より多様なインスタンスをカバーするルールが可能になった。
• ブラックボックスモデルと比較して、本手法はルールが人間が読める形であり、言語的知見に基づいた改善が可能であるため、解釈可能性に優れたことが示された。