[論文レビュー] LEXpander: applying colexification networks to automated lexicon expansion

Anna Di Natale, David García|arXiv (Cornell University)|May 31, 2022

Topic Modeling参考文献 45被引用数 12

ひとこと要約

LEXpander は、共通意味語ネットワーク（語の意味的共有に基づく言語間の意味的ネットワーク）を活用して、短いシード語リストを包括的で高精度の語彙リストに自動的に拡張する、新規で多言語対応の語彙拡張手法である。英語およびドイツ語の感情および主題的カテゴリーにおいて、WordNet や Empath 2.0 や単語埋め込みと比較して、精度と F1 スコアの両面で優れた性能を示し、再現率と精度のトレードオフにおいても優れた性能を発揮した。

ABSTRACT

Recent approaches to text analysis from social media and other corpora rely on word lists to detect topics, measure meaning, or to select relevant documents. These lists are often generated by applying computational lexicon expansion methods to small, manually-curated sets of root words. Despite the wide use of this approach, we still lack an exhaustive comparative analysis of the performance of lexicon expansion methods and how they can be improved with additional linguistic data. In this work, we present LEXpander, a method for lexicon expansion that leverages novel data on colexification, i.e. semantic networks connecting words based on shared concepts and translations to other languages. We evaluate LEXpander in a benchmark including widely used methods for lexicon expansion based on various word embedding models and synonym networks. We find that LEXpander outperforms existing approaches in terms of both precision and the trade-off between precision and recall of generated word lists in a variety of tests. Our benchmark includes several linguistic categories and sentiment variables in English and German. We also show that the expanded word lists constitute a high-performing text analysis method in application cases to various corpora. This way, LEXpander poses a systematic automated solution to expand short lists of words into exhaustive and accurate word lists that can closely approximate word lists generated by experts in psychology and linguistics.

研究の動機と目的

• 多様な言語的・主題的ドメインにおける語彙拡張手法の体系的ベンチマークの欠如に対処すること。
• 事前定義された辞書に依存せずに、短いシード語リストを包括的かつ正確な語彙に自動的に拡張する多言語対応のソリューションを開発すること。
• 言語間の意味的関係を捉える共通意味語ネットワークを統合することで、既存手法を改善すること。
• 英語およびドイツ語を含む複数の言語と、感情、認知、社会的行動などの言語的カテゴリーにおいて、手法の性能を検証すること。

提案手法

• LEXpander は、二か国語辞書から抽出された多言語意味的ネットワークである FreeDict 共通意味語ネットワークを用い、シード語と関連する言語間の語を同定する。
• 共通意味語ネットワークを走査することで、共有される概念的マッピングに基づいて意味的に関連する語を取得する。
• 共通意味語リンクが言語に依存しないため、学習データに含まれる言語であれば、任意の言語で拡張が可能である。
• 密度の高いベクトル空間に依存せず、共有される共通意味語リンクを通じて接続された語を優先するネットワークベースの推論戦略を採用する。
• FastText や GloVe、WordNet、Empath 2.0、OdeNet といった既存手法と比較して評価する。
• Web ツールとして実装され、GitHub でデータセットおよびコードを公開している。

実験結果

リサーチクエスチョン

• RQ1 LEXpander は、多様な言語的カテゴリーにおいて、既存の語彙拡張手法と比較して、精度と再現率の両面でどのように差をつけるか？
• RQ2 共通意味語ネットワークは、単語埋め込みや同義語ネットワークと比較して、より強固で正確な語彙拡張の基盤を提供できるか？
• RQ3 LEXpander は、英語やドイツ語のような異なる言語間で、どの程度性能を維持できるか？
• RQ4 多言語共通意味語データを組み込むことで、語彙拡張リストの質とカバレッジがどの程度向上するか？
• RQ5 LEXpander は、LIWC のような専門家が手作業で整えた語彙リストに近い高品質の語彙リストを生成できるか？

主な発見

• 英語の感情語（EV）リスト拡張において、LEXpander は F1 スコア 0.12 を達成し、WordNet（F1=0.08）や Empath 2.0（F1=0.11）を大きく上回った。
• 英語の LIWC からランダムに抽出した 30% のシード語に対して、LEXpander は平均長 614 の語彙リストを生成し、WordNet（525）を上回り、GloVe（773）よりも高い精度を維持した。
• LEXpander は EV 語彙リストの拡張で 100% の成功率を達成し、ドイツ語 LIWC 語彙リストでは 97% を記録し、多言語環境下でも他の手法を上回った。
• EV の拡張において、LEXpander は精度 0.16 を達成し、Empath 2.0（0.07）や FastText（0.06）を上回り、拡張リスト内のノイズをより効果的に制御していることを示した。
• LEXpander は、FastText や Empath 2.0 のような単語埋め込みベースの手法よりも、よりバランスの取れた精度・再現率のトレードオフを実現した。これらの手法は低精度の非常に長いリストを生成したのに対し、LEXpander はより洗練されたリストを生成した。
• LEXpander が拡張した語彙リストは、実世界のテキスト解析タスクにおいて非常に有効であることが示され、LIWC 辞書データを一切使用せず、専門家が整えた LIWC 語彙リストと同等の性能を発揮した。