[論文レビュー] Unsupervised Abbreviation Disambiguation Contextual disambiguation using word embeddings

Manuel R. Ciosici, Tobias Sommer+1 more|arXiv (Cornell University)|Apr 1, 2019

Natural Language Processing Techniques参考文献 23被引用数 6

ひとこと要約

本稿では、ラベルなしデータを用いて、それぞれの長義義義の意味とその文脈的使用法に対して異なるベクトル表現を学習することで、ラベルなしで省略語の意味を解消するUnsupervised Abbreviation Disambiguation (UAD) を提案する。UAD は大規模で現実世界のデータセットにおいて最先端の性能を達成し、高価な実験的評価を要せず、解釈が難しい省略語を事前評価分析機能で特定できる。これにより、数千もの曖昧な省略語を含む分野への実用的導入が可能になる。

ABSTRACT

Abbreviations often have several distinct meanings, often making their use in text ambiguous. Expanding them to their intended meaning in context is important for Machine Reading tasks such as document search, recommendation and question answering. Existing approaches mostly rely on manually labeled examples of abbreviations and their correct long-forms. Such data sets are costly to create and result in trained models with limited applicability and flexibility. Importantly, most current methods must be subjected to a full empirical evaluation in order to understand their limitations, which is cumbersome in practice. In this paper, we present an entirely unsupervised abbreviation disambiguation method (called UAD) that picks up abbreviation definitions from unstructured text. Creating distinct tokens per meaning, we learn context representations as word vectors. We demonstrate how to further boost abbreviation disambiguation performance by obtaining better context representations using additional unstructured text. Our method is the first abbreviation disambiguation approach with a transparent model that allows performance analysis without requiring full-scale evaluation, making it highly relevant for real-world deployments. In our thorough empirical evaluation, UAD achieves high performance on large real-world data sets from different domains and outperforms both baseline and state-of-the-art methods. UAD scales well and supports thousands of abbreviations with multiple different meanings within a single model. In order to spur more research into abbreviation disambiguation, we publish a new data set, that we also use in our experiments.

研究の動機と目的

• 手動でアノテートされたデータに依存する教師あり省略語意味解消手法の高コストとスケーラビリティの限界を解消すること。
• 非構造化テキストから省略語とその長義義義の意味を自動で抽出できる完全なラベルなしアプローチの開発。
• アノテート済みテストデータセットでの完全な実験的評価を必要とせずに、性能分析を可能にすること。
• 外部の非構造化テキストを活用して文脈表現の質を向上させ、意味解消性能を向上させること。
• 再現可能性と今後の研究を支援するため、大規模で現実世界のデータセットを公開すること。

提案手法

• UAD は、各長義義義の意味に対して固有の単語ベクトルを学習し、それぞれを埋め込み空間内の固有のトークンとして扱う。
• 非構造化テキスト上で単語埋め込みを学習することで文脈表現を構築し、省略語とその周辺文脈との間の意味的関係を捉える。
• 文脈ベクトルと長義義義ベクトルの間のコサイン類似度を用いて、曖昧な省略語の最も可能性の高い意味を特定する。
• 文脈表現の質を向上させるために、訓練コーパスに追加の非構造化テキストや事前計算済みのベクトル空間を追加することで性能を向上させる。
• 事前評価分析機能として、長義義義ベクトル間のコサイン距離を計算し、ラベル付きテストデータを必要とせずに意味解消の難易度を予測する。
• 複数の意味を持つ数千もの省約語をサポートし、平均化や除去などのベクトル空間調整を可能にすることで、意味的重複を解消できる。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きデータに依存せずに、ラベルなし手法が高精度な省略語意味解消を達成できるか？
• RQ2 外部の非構造化テキストを活用することで、文脈表現をどのように改善し、意味解消の正確性を向上させられるか？
• RQ3 事前評価分析機能は、完全な実験的評価を要せず、曖昧な省約語を特定できるか？
• RQ4 長義義義の意味同士の類似度が意味解消性能に与える影響はどの程度で、どのようにこれを軽減できるか？
• RQ5 UAD は、高い曖昧性と多様な分野を含む大規模で現実世界のデータセットにおいて、どの程度スケーラブルか？

主な発見

• UAD は、従来のベンチマークよりも曖昧で現実的である2つの大規模で現実世界のデータセットにおいて、ベースラインおよび最先端の手法を上回る性能を達成した。
• 本手法は、先行研究で使用されたものよりも少なくとも1桁以上大きなデータセットで、人工的なバランス調整やデータフィルタリングを一切行わず、高い性能を達成した。
• 長義義義ベクトル間のコサイン距離と誤分類率の間に強い負の相関が確認され、意味が似ているほど解釈が難しいことが裏付けられた。
• 事前評価分析機能は、ラベル付きテストデータを必要とせずに、意味的に類似または同一の意味を持つ省約語を効果的に特定できた。
• 外部の非構造化テキストを訓練コーパスに追加することで、文脈表現の質と意味解消性能が顕著に向上した。
• 平均化や問題のある長義義義ベクトルの削除といったベクトル空間の調整により、再訓練と同等の性能向上が得られ、再訓練なしでモデルの最適化が可能になった。