[论文解读] An Unsupervised Word Sense Disambiguation System for Under-Resourced Languages

Dmitry Ustalov, Денис Тесленко+4 more|arXiv (Cornell University)|Apr 27, 2018

Natural Language Processing Techniques被引用 5

一句话总结

本文提出 Watasense，一种针对低资源语言的无监督词义消歧系统，利用句子上下文与同义词集（synset）表征之间的语义相似性。该系统结合了稀疏（向量空间模型）与稠密（同义词集嵌入）两种方法，其中稠密模式在三个俄语词汇资源上显著优于稀疏模式，在使用 RuWordNet 的 wiki-wiki 子集上达到了 0.50 的调整兰德指数（adjusted Rand index）。

ABSTRACT

In this paper, we present Watasense, an unsupervised system for word sense disambiguation. Given a sentence, the system chooses the most relevant sense of each input word with respect to the semantic similarity between the given sentence and the synset constituting the sense of the target word. Watasense has two modes of operation. The sparse mode uses the traditional vector space model to estimate the most similar word sense corresponding to its context. The dense mode, instead, uses synset embeddings to cope with the sparsity problem. We describe the architecture of the present system and also conduct its evaluation on three different lexical semantic resources for Russian. We found that the dense mode substantially outperforms the sparse one on all datasets according to the adjusted Rand index.

研究动机与目标

• 解决在缺乏标注数据的低资源语言（如俄语）中词义消歧（WSD）的挑战，此类语言中监督方法不可行。
• 开发一种无需人工词义标注的系统，仅依赖基本的自然语言处理工具与词义词典。
• 评估在低资源环境下，稀疏与稠密表征在 WSD 中的表现。
• 证明基于分布词向量的同义词集嵌入相比传统词义表示方法，能显著提升消歧准确率。
• 提供一个模块化、开源的 WSD 系统，支持网页端、命令行与 API 接口，便于集成到 NLP 流水线中。

提出的方法

• 将每个词义表示为同义词集（synset），包含同义词、上位词及其并集（词袋），以实现语义表征。
• 构建倒排索引，将词语映射到其候选同义词集，以实现消歧过程中的高效查找。
• 实现两种模式：稀疏模式，利用句子与同义词集表征之间的传统向量空间模型相似性。
• 实现稠密模式，利用预训练的 500 维词嵌入（来自俄语分布词典）计算句子上下文与同义词集嵌入之间的语义相似性。
• 通过余弦相似度计算句子上下文与各同义词集之间的语义相似度，为每个词语选择相似度最高的同义词集作为消歧结果。
• 使用通用的 BaseWSD 类封装通用预处理步骤，并为不同 WSD 方法提供统一的 API。

实验结果

研究问题

• RQ1 无监督 WSD 系统是否能在无需人工标注训练数据的情况下，在低资源语言（如俄语）上实现具有竞争力的性能？
• RQ2 在低资源设置下，稀疏向量空间模型与基于稠密嵌入的方法在 WSD 准确率上的表现如何比较？
• RQ3 基于分布词向量生成的同义词集嵌入是否相比传统词义表示方法能提升消歧性能？
• RQ4 词义词典的选择（如 Watlink、RuThes、RuWordNet）在多大程度上影响 WSD 系统的性能？
• RQ5 仅依赖分词器、词性标注器、词形还原器与词义词典的系统，是否能在低资源语言中有效实现 WSD？

主要发现

• Watasense 的稠密模式在所有三个评估数据集上均显著优于稀疏模式，在使用 RuWordNet 的 wiki-wiki 子集上达到了 0.50 的调整兰德指数（ARI）。
• 在 bts-rnc 数据集上，稠密模式在 RuWordNet 上的 ARI 为 0.12，而稀疏模式为 0.00，表明性能持续提升。
• 在 RuThes 上，稠密方法的平均 ARI 为 0.17，而稀疏模式仅为 0.01，表明性能提升显著。
• AdaGram 基线模型（在大规模语料上训练）平均 ARI 为 0.23，优于 Watasense 的稀疏模式，但 Watasense 的稠密模式在 wiki-wiki 子集上表现更优（ARI = 0.50）。
• 该系统在不同词义词典上的性能表现稳健，稠密模式在所有词典中均表现出一致的性能增益。
• 结果证实，稠密表征能够有效缓解稀疏向量模型在低资源设置下固有的稀疏性问题。