[論文レビュー] Modeling the dynamics of domain specific terminology in diachronic corpora

Gerhard Heyer, Cathleen Kantner+3 more|arXiv (Cornell University)|Jul 11, 2017

Natural Language Processing Techniques参考文献 2被引用数 5

ひとこと要約

本稿では、時間的変化するコーパスにおけるドメイン固有用語の意味的変化を検出するための新しい指標として、コンテキストボラティリティを導入する。潜在的意味空間を用いて時間的変化を分析することで、激しい議論や意味的変容が生じる時期を同定し、政治学の事例研究を通じてキーワード抽出と動的用語行動の検出を実証する。

ABSTRACT

In terminology work, natural language processing, and digital humanities, several studies address the analysis of variations in context and meaning of terms in order to detect semantic change and the evolution of terms. We distinguish three different approaches to describe contextual variations: methods based on the analysis of patterns and linguistic clues, methods exploring the latent semantic space of single words, and methods for the analysis of topic membership. The paper presents the notion of context volatility as a new measure for detecting semantic change and applies it to key term extraction in a political science case study. The measure quantifies the dynamics of a term's contextual variation within a diachronic corpus to identify periods of time that are characterised by intense controversial debates or substantial semantic transformations.

研究の動機と目的

• 歴史的テキストコーパスにおける時間的変化するドメイン固有用語の意味的変化を検出する課題に対処すること。
• 時間的変化データにおける文脈的変動を捉える定量的指標を構築すること。
• 意味的不安定性の高い時期を特定することで、政治学のテキストにおけるキーワード抽出を改善すること。
• 文脈的変動分析を時間的ダイナミクスと統合し、用語の進化をより正確に追跡すること。
• パターンベースおよびトピックベースのアプローチと補完的である方法を提供すること。

提案手法

• 潜在的意味空間における分布に基づき、用語の文脈的使用が時間的にどの程度変化するかを測る指標としてコンテキストボラティリティを提案する。
• 単語埋め込みモデルを用いて、用語を連続的ベクトル空間に表現し、時間スライスごとの文脈的変動を捉える。
• 時間間隔ごとの用語ベクトルの分散を計算することでボラティリティを定量化し、高い分散は文脈的ダイナミクスの高さを示す。
• 各用語のコンテキストボラティリティスコアを計算するために、時間軸に沿ったスライディングウインドウを適用し、変動が激しい時期の検出を可能にする。
• 既知の歴史的出来事や議論と比較することで、政治学コーパス上でこの手法を検証する。
• この指標をキーワード抽出と組み合わせ、意味的変容や論争を経験している用語を特定する。

実験結果

リサーチクエスチョン

• RQ1 時間的変化するコーパスにおけるドメイン固有用語のダイナミクスを、どのように定量的に時間的経過で測定できるか？
• RQ2 コンテキストボラティリティは、意味的変化または公共的議論の時期とどの程度相関するか？
• RQ3 コンテキストボラティリティは、政治的テキストにおける意味的進化を経験しているキーワードの検出をどのように改善できるか？
• RQ4 従来の言語的パターンやトピックモデリングに基づく手法と比較して、コンテキストボラティリティはどのように異なるか？
• RQ5 時間スライスごとの文脈的変動を測定する際、用語使用にどのような時間的パターンが現れるか？

主な発見

• コンテキストボラティリティは、政治的論争や制度的変化の時期など、意味的ダイナミクスが高まる時期を効果的に同定する。
• 高いコンテキストボラティリティスコアを示す用語は、政治コーパスにおける激しい公共的・制度的議論の時期と強く一致する。
• この手法は、静的用語頻度やトピックモデリングだけでは捉えきれない用語の意味的シフトを効果的に検出できる。
• コンテキストボラティリティは、時間的経過における用語意味の動的変化を捉える点で、ベースライン手法を上回る。
• このアプローチにより、用語の時間的文脈的不安定性に基づいてフィルタリングすることで、より洗練されたキーワード抽出が可能になる。
• 実証的結果から、コンテキストボラティリティは既知の歴史的出来事と相関しており、解釈可能性と感受性の両面で妥当性が裏付けられている。