[論文レビュー] Graph-based Approach to Automatic Taxonomy Generation (GraBTax)

Pucktada Treeratpituk, Madian Khabsa+1 more|arXiv (Cornell University)|Jul 5, 2013

Topic Modeling参考文献 18被引用数 8

ひとこと要約

GraBTax は、統計的共起性と語彙的類似性を統合して、外部の知識源に依存せずにバランスの取れたトピック固有の階層を構築する、グラフベースでクエリに依存する自動分類体系生成手法を提案する。CiteSeerX のコンピュータサイエンス論文を対象に評価した結果、Wikipedia のゴールドスタンダードと比較して部分一致率が 24.1% を達成し、人為的に作成されたカテゴリと強い整合性を示した。また、ベースラインのクラスタリング手法を上回った。

ABSTRACT

We propose a novel graph-based approach for constructing concept hierarchy from a large text corpus. Our algorithm, GraBTax, incorporates both statistical co-occurrences and lexical similarity in optimizing the structure of the taxonomy. To automatically generate topic-dependent taxonomies from a large text corpus, GraBTax first extracts topical terms and their relationships from the corpus. The algorithm then constructs a weighted graph representing topics and their associations. A graph partitioning algorithm is then used to recursively partition the topic graph into a taxonomy. For evaluation, we apply GraBTax to articles, primarily computer science, in the CiteSeerX digital library and search engine. The quality of the resulting concept hierarchy is assessed by both human judges and comparison with Wikipedia categories.

研究の動機と目的

• 急速に進化する分野（例：コンピュータサイエンス）における手作業による分類体系作成の高コストと頻度の低さに対処するため。
• 外部の知識源に依存せずに、トピック固有の分類体系を自動的かつ柔軟に生成する手法を開発するため。
• 従来のクラスタリングに基づく手法を改善するため、分類体系構築に統計的共起性と語彙的類似性の両方を統合するため。
• 人間の判断と Wikipedia のカテゴリをゴールドスタンダードとして用いて、生成された分類体系の品質を評価するため。
• 分類体系生成後のリファインメント戦略を検討し、構造的・正確性の向上を図るため。

提案手法

• トピック語の抽出と関係抽出を用いて、コーパスから重み付きトピックグラフを構築する。
• トピック間の統計的共起頻度と語彙的類似性の組み合わせに基づき、エッジに重みを付与する。
• 再帰的なグラフ分割を適用して、トピックグラフを階層的に部分トピックに分割し、分類体系を形成する。
• 兄弟ノードの一般性レベルが類似するように、バランスの取れた分類体系が得られるように最適化する。
• パラメータ化されたスコアリングモデルを用い、ハイパーパrameter λ₁ と λ₂ を用いて共起性と語彙的類似性の寄与度を調整する。
• Wikipedia のカテゴリをゴールドスタンダードとして用い、正確一致および部分一致の指標により分類体系の品質を評価する。

実験結果

リサーチクエスチョン

• RQ1 共起性と語彙的類似性を統合したグラフベースの手法は、従来のクラスタリング手法に比べ、より意味的に整合性の取れた分類体系を生成できるか？
• RQ2 自動生成された分類体系は、構造的正確性において、人為的に作成された Wikipedia のカテゴリとどの程度一致するか？
• RQ3 語彙的類似性を組み込むことで、共起性のみを用いる場合に比べ、分類体系の品質はどの程度向上するか？
• RQ4 グラフ分割のプロセスが、得られる分類体系の構造的バランスと整合性に与える影響は何か？
• RQ5 異なるパラメータ設定は、正確一致と部分一致の性能のトレードオフにどのような影響を及えるか？

主な発見

• GraBTax アルゴリズムは、Wikipedia のゴールドスタンダードと比較して 24.1% の部分一致率を達成し、人為的に作成された分類体系と強い構造的整合性を示した。
• 正確一致率は 10.9% であった。これは、多くの概念が正しく配置されているものの、依然として多くの親子関係が誤っていることを示している。
• 語彙的類似性を組み込む（λ₂ > 0）ことで、部分一致スコアは 21.5% から 25.1% に向上し、意味的正確性の向上に寄与することが実証された。
• 語彙的類似性を追加したことで正確一致スコアはわずかに低下したが、これは正確な親子関係の配置がよりばらつきやすくなったためと推察される。
• ユーザースタディーの結果、本手法はベースラインの階層的クラスタリング手法を上回り、意味的関係をより適切に発見できた。
• Wikipedia のカテゴリをゴールドスタンダードとして用いた評価フレームワークは、実証的評価とパrameterチューニングに効果的であった。