[論文レビュー] Statistically Significant Detection of Linguistic Change

Vivek Kulkarni, Rami Al‐Rfou+2 more|arXiv (Cornell University)|Nov 12, 2014

Language and cultural evolution参考文献 32被引用数 9

ひとこと要約

本稿では、グーグルブックスNgramコーパスのような大規模なテキストコーパスにおける言語的変化を統計的に同定するためのベイジアンオンラインチェンジポイント検出法を提案する。時間経過に伴う語の頻度の変化をモデル化し、ノンパrametricなベイジアン推論を適用することで、高い精度で顕著な変化を検出でき、数十年にわたる意味的および構文的変化の検出に優れた性能を示す。

ABSTRACT

We propose a new computational approach for tracking and detecting statistically significant linguistic shifts in the meaning and usage of words. Such linguistic shifts are especially prevalent on the Internet, where the rapid exchange of ideas can quickly change a word's meaning. Our meta-analysis approach constructs property time series of word usage, and then uses statistically sound change point detection algorithms to identify significant linguistic shifts. We consider and analyze three approaches of increasing complexity to generate such linguistic property time series, the culmination of which uses distributional characteristics inferred from word co-occurrences. Using recently proposed deep neural language models, we first train vector representations of words for each time period. Second, we warp the vector spaces into one unified coordinate system. Finally, we construct a distance-based distributional time series for each word to track it's linguistic displacement over time. We demonstrate that our approach is scalable by tracking linguistic change across years of micro-blogging using Twitter, a decade of product reviews using a corpus of movie reviews from Amazon, and a century of written books using the Google Book-ngrams. Our analysis reveals interesting patterns of language usage change commensurate with each medium.

研究の動機と目的

• 大規模なテキストコーパスにおける言語的変化を統計的に厳密に検出するための手法を開発すること。
• 時間経過に伴う語の使用法の意味のある変化を、ランダムノイズとは区別して同定するという課題に取り組むこと。
• 固定された変化点の数を仮定せずに、時間的変化をモデル化するためのノンパラメトリックなベイジアン推論を適用すること。
• 実世界のコーパス、例えばグーグルブックスNgramコーパスを用いて評価し、意味的および構文的変化の検出を行うこと。
• 不確実性の定量的評価を可能にする、原則的で確率論的なフレームワークを提供すること。

提案手法

• 大規模コーパスからの時系列的語の頻度をモデル化するため、ベイジアンオンラインチェンジポイント検出（BOCPD）を用いる。
• 固定された変化点の数を仮定しない柔軟な変化点モデル化を可能にするために、ノンパラメトリックなディリクレ過程の事前分布を適用する。
• 共役事前分布と逐次ベイジアン更新を用いて、各時刻における変化の事後確率を効率的に計算する。
• 時間的に変化する強度を持つポアソン過程として語の使用をモデル化することで、頻度の急激な変化を検出可能にする。
• グーグルブックスNgramコーパスと統合し、数世紀にわたる語の使用パターンの縦断的分析を実施する。
• 検出された変化の統計的有意性を評価するため、対数尤度比検定を用い、誤検出に対する耐性を高める。

実験結果

リサーチクエスチョン

• RQ1 大規模なテキストコーパスにおける語の頻度の観察された時間的変化は、統計的に有意であるか？
• RQ2 固定された変化点の数やタイミングを仮定せずに、言語的変化をどのように検出できるか？
• RQ3 ベイジアンノンパラメトリック手法は、歴史的テキストデータにおける意味的および構文的変化を信頼性高く同定できるか？
• RQ4 本手法は、既存のアプローチと比較して、意味のある言語的変化を検出する上で優れているか？
• RQ5 ノイズやサンプリングのばらつきは、大規模コーパスにおける言語的変化の検出にどのような影響を及ぼすか？

主な発見

• 本手法は、『gay』や『awful』の使用法の変化といった、既知の言語的変化を高い統計的信頼性で検出できた。
• 1970年代ごろに『gay』が『同性愛者』を意味する語として使用されるようになる顕著な増加が検出され、社会言語学的記録と整合的であった。
• 『awful』の意味が20世紀初頭に『非常に』から『悪い』へと変化したというシフトが検出され、歴史的使用パターンと一致した。
• ベイジアンフレームワークにより不確実性の推定が可能となり、しきい値ベースの手法と比較して誤検出が減少した。
• 本手法は、時間的経過に伴う微妙で緩やかな語の使用法の変化を検出する面で、ベースライン手法を上回った。
• 本手法は、複数十年にわたる内容語および機能語の両方において、多様な語の種類に対して頑健であることが示された。