[論文レビュー] An Unsupervised Word Sense Disambiguation System for Under-Resourced Languages

Dmitry Ustalov, Денис Тесленко+4 more|arXiv (Cornell University)|Apr 27, 2018

Natural Language Processing Techniques被引用数 5

ひとこと要約

この論文では、語の意味のあいまいさを解消するための教師なし語の意味分類システムWatasenseを提示している。このシステムは、文脈とシングレット表現の間の意味的類似度を活用し、低リソース言語向けに設計されている。スパース（ベクトル空間モデル）とドライブル（シングレット埋め込み）の両方のアプローチを採用しており、ドライブルモードが3つのロシア語語彙資源においてスパースモードを著しく上回り、RuWordNetを用いたwiki-wikiサブセットでは調整済みランドインデックス（ARI）が0.50に達した。

ABSTRACT

In this paper, we present Watasense, an unsupervised system for word sense disambiguation. Given a sentence, the system chooses the most relevant sense of each input word with respect to the semantic similarity between the given sentence and the synset constituting the sense of the target word. Watasense has two modes of operation. The sparse mode uses the traditional vector space model to estimate the most similar word sense corresponding to its context. The dense mode, instead, uses synset embeddings to cope with the sparsity problem. We describe the architecture of the present system and also conduct its evaluation on three different lexical semantic resources for Russian. We found that the dense mode substantially outperforms the sparse one on all datasets according to the adjusted Rand index.

研究の動機と目的

• 語の意味のあいまいさ（WSD）の課題を、アノテート済みデータが不足するロシア語のような低リソース言語において解決すること。教師あり手法は、データ不足のため実行不可能である。
• 手動で意味のアノテーションを必要とせず、基本的な自然言語処理ツールと意味インベントリのみに依存するシステムを開発すること。
• 低リソース環境におけるWSDにおいて、スパース表現とドライブル表現の性能を評価すること。
• 分散表現に基づくシングレット埋め込みを用いることで、従来のスパースベクトルモデルに比べて意味分類の正確性が著しく向上することを実証すること。
• Web、コマンドライン、APIインタフェースを備えたモジュラーでオープンソースのWSDシステムを提供し、NLPパイプラインへの統合を可能にすること。

提案手法

• 語の意味を、同義語、上位語、およびそれらの集合（bag of words）からなるシングレットとして表現することで、意味的表現を可能にする。
• 意味の候補を効率的に検索できるように、語からその候補シングレットへのインverted index を構築する。
• 2つのモードを実装する：スパースモードでは、文とシングレット表現の間の従来のベクトル空間モデルの類似度を用いる。
• ドライブルモードでは、ロシア語分布的同義語辞書から事前学習された500次元の単語埋め込みを用い、文の文脈とシングレット埋め込みの間の意味的類似度を計算する。
• 文の文脈と最も高い意味的類似度を持つシングレットを選択することで、各語の意味を分類する。類似度はコサイン類似度で計算される。
• 共通の前処理処理をカプセル化し、異なるWSD手法のための統一APIを提供する汎用的なBaseWSDクラスを実装する。

実験結果

リサーチクエスチョン

• RQ1 手動でアノテートされた学習データが不要な教師なしWSDシステムは、ロシア語のような低リソース言語においても競争力のある性能を達成できるか？
• RQ2 低リソース環境におけるWSD精度に関して、スパースベクトル空間モデルとドライブル埋め込みベースのアプローチの性能はどのように比較されるか？
• RQ3 分布的単語表現から得られるシングレット埋め込みを用いることで、従来の語の意味表現に比べて意味分類の性能が向上するか？
• RQ4 意味インベントリの選択（例：Watlink, RuThes, RuWordNet）がWSDシステムの性能に与える影響はどの程度か？
• RQ5 トークナイザー、品詞タガー、レマタイザー、および意味インベントリのみに依存するシステムは、低リソース言語におけるWSDに有効であるか？

主な発見

• Watasenseのドライブルモードは、評価された3つのデータセットすべてでスパースモードを著しく上回り、RuWordNetを用いたwiki-wikiサブセットでは調整済みランドインデックス（ARI）が0.50に達した。
• bts-rncデータセットでは、ドライブルモードがRuWordNetを用いてARI 0.12を達成した一方、スパースモードはARI 0.00に留まり、一貫した向上が確認された。
• RuThesを用いた場合、ドライブルアプローチは平均ARI 0.17を達成したのに対し、スパースモードは0.01にとどまり、顕著な性能向上が示された。
• 大規模コーパスで学習されたAdaGramベースラインは平均的にARI 0.23を達成しており、Watasenseのスパースモードを上回ったが、Watasenseのドライブルモードはwiki-wikiサブセットでARI 0.50を達成し、それを上回った。
• システムの性能はさまざまな意味インベントリに対して安定しており、ドライブルモードは使用するインベントリに関係なく一貫した向上を示した。
• 結果から、ドライブル表現がスパースベクトルモデルに内在するスパarsity問題を緩和することが確認され、特に低リソース環境において顕著である。