[論文レビュー] KSU KDD: Word Sense Induction by Clustering in Topic Space

Wesam Elshamy, Doina Caragea+1 more|arXiv (Cornell University)|Feb 28, 2013

Topic Modeling参考文献 6被引用数 9

ひとこと要約

この論文では、潜在ディリクレ配布（LDA）モデルから推定されたトピック分布を用いて、語の意味をクラスタリングする言語に依存しない教師なし語の意味誘導システムを提示する。各多義語の文脈をK次元空間内のトピック分布として表現し、コサイン類似度を用いたK-meansクラスタリングを適用することで、教師ありデータや言語固有の特徴を一切使用せずに、SemEval-2 WSIタスクで2番目のV-measureスコア（15.7）を達成し、有効性を示した。

ABSTRACT

We describe our language-independent unsupervised word sense induction system. This system only uses topic features to cluster different word senses in their global context topic space. Using unlabeled data, this system trains a latent Dirichlet allocation (LDA) topic model then uses it to infer the topics distribution of the test instances. By clustering these topics distributions in their topic space we cluster them into different senses. Our hypothesis is that closeness in topic space reflects similarity between different word senses. This system participated in SemEval-2 word sense induction and disambiguation task and achieved the second highest V-measure score among all other systems.

研究の動機と目的

• アノテート済み学習データや品詞タグの使用に依存しない、シンプルでコスト効率が良く、言語に依存しない教師なし語の意味誘導システムの開発。
• グローバルな文脈空間におけるトピック分布が、語の意味の間の意味的類似度を効果的に反映できるかどうかの調査。
• V-measure や F-score といった標準的な教師なしメトリクスを用いて、トピックベースのクラスタリングが語の意味誘導においてどの程度の性能を示すかの評価。
• トピックモデリングが微細な意味的ニュアンスや文脈的に繊細な意味を捉える際に示す限界の分析。

提案手法

• 目的の多義語の全学習インスタンスに対して、bag-of-words特徴のみを用いて潜在ディリクレ配布（LDA）トピックモデルを学習する。
• 学習済みLDAモデルを用いて、多義語を含む各テストインスタンスのトピック分布θ_lを推定する。
• 各推定されたトピック分布を、トピック数KであるK次元のトピックスペース内の点として表現する。
• コサイン類似度を用いたK-meansクラスタリングを適用し、各クラスタを語の意味に対応させる。
• クラスタリングの適合度を評価するために、正解ラベル（GS）クラスの数をクラスタ数Kとして用いる。
• V-measure（一貫性と完全性の組み合わせ）を用いて性能を評価し、正解ラベルが存在しない状況でもクラスタリングの質を評価する。

実験結果

リサーチクエスチョン

• RQ1 LDAから導出されたトピック分布は、多義語の意味的文脈を適切に表現できており、正確な意味クラスタリングを可能にするか？
• RQ2 アノテート済み学習データが存在しない状況において、トピックスペース内クラスタリング手法の性能は、他の教師なしWSIシステムと比較してどうか？
• RQ3 どのような語の意味がシステムによって正しく捉えられておらず、どのような文脈的特徴が誤分類を引き起こしているか？
• RQ4 トピック数Kの値が、微細な語の意味を区別する能力にどのように影響を与えるか？

主な発見

• このシステムは、SemEval-2 WSIタスクで15.7という2番目のV-measureスコアを達成し、他の多くの教師なしシステムを上回った。
• 最適なトピック数Kは400であった。これは、訓練データの語彙制限のため、Kがこの値を超えると性能が頭打ちまたは低下するためである。
• 「promotion」の語の意味のうち「昇進」の意味は、システムが大部分を正しくグループ化できたが、文脈的に支配的な語（例：「driving」や「troops」）の影響で一部が誤ってクラスタリングされた。
• 「promote」の「励ます」という意味は、トピックモデルによってうまく捉えられず、周囲のトピック語に基づいて複数のクラスタに分散してしまった。これは、この意味を検出できなかったことを示している。
• 「プロモーションの問題」という意味は、数値的要素が多かったため「数字と金銭」のクラスタに誤って分類されたが、意味的整合性はなかった。
• 名詞では高い性能（V-measure 18.0）を示したが、動詞では低い性能（12.4）であった。これは語の品詞や文脈の豊かさに敏感である可能性を示唆している。