[論文レビュー] Transparent Semantic Change Detection with Dependency-Based Profiles

Bach Phan-Tat, Kris Heylen+3 more|arXiv (Cornell University)|Jan 6, 2026

Language and cultural evolution被引用数 0

ひとこと要約

本論文は、Jensen-Shannon Divergence を用いて依存関係共起分布の変化を追跡する、教師なし・依存関係ベースの語彙意味変化検知アプローチを提案し、解釈可能な結果と複数言語における競争力のある性能を示す。

ABSTRACT

Most modern computational approaches to lexical semantic change detection (LSC) rely on embedding-based distributional word representations with neural networks. Despite the strong performance on LSC benchmarks, they are often opaque. We investigate an alternative method which relies purely on dependency co-occurrence patterns of words. We demonstrate that it is effective for semantic change detection and even outperforms a number of distributional semantic models. We provide an in-depth quantitative and qualitative analysis of the predictions, showing that they are plausible and interpretable.

研究の動機と目的

• 語彙意味変化（LSC）検出のために明示的な言語的・依存関係ベース情報の使用を動機付ける。
• 時代を追う依存スロット–補完子分布の変化を透明性のある教師なし手法で追跡する。
• 複数言語の SemEval-2020 Task 1 データで手法を評価し、埋め込みベースのアプローチと比較する。
• 依存関係ベースの変化信号の解釈性と限界を示す定性的分析を提供する。

提案手法

• 高精度の依存構文解析器で時系列コーパスを解析し、スロットベースの共起分布を取得する。
• 各ターゲットレマを、時代区分ごとの依存スロット（例：nmod, amod）とその補 fillers の分布として表現する。
• 時代区間ごとにスロット間のJensen-Shannon Divergence (JSD) を計算して変化を測る。
• 複数のスロットに対するJSDを平均化して語彙レベルの変化スコアを得る。
• JSD計算前に単一スロット補完子を除去する頻度フィルタリングを適用する。
• スロット補完子から品詞タグを除去してタグ付けノイズを低減し、依存関係に焦点を合わせる。
• 性能向上のために頻度フィルタリングと品詞除去を組み合わせることも検討する。
• Subtask 2（グレード付きランキング）を主に評価し、Subtask 1（2値変化）には閾値ベースの戦略を用いる。Subtask 1/2 の結果と定性的分析を報告する。

Figure 1: Changes in the frequencies of 6 adjectival modifiers of the English noun plane between the 2 sub-corpora for English of the SemEval 2020 shared task 1 Schlechtweg et al. ( 2020 ) . Plane is annotated as semantically changed in the dataset

実験結果

リサーチクエスチョン

• RQ1 明示的な依存関係ベースの共起パターンは、埋め込みベースの表現を用いずに語彙意味変化を効果的に検出できるか。
• RQ2 依存スロット分布に対する Jensen-Shannon Divergence は、言語横断の実際の意味変化をどのように反映するか。
• RQ3 頻度フィルタリングや POS の除去といった前処理・ノイズ低減の手順が、依存関係ベースのLSC信号の信頼性と解釈性にどのように影響するか。
• RQ4 提案手法は SemEval-2020 Task 1 のデータ（英語・ドイツ語・スウェーデン語・ラテン語）において、埋め込みベースの手法と比較してグレード変化および二値変化タスクでどの程度性能があるか。
• RQ5 手法の解釈性はどの程度で、特定の依存スロットに帰属させられる言語変化の種類はどのようなものか。

主な発見

• 依存関係ベースの共起の変化は、JSD で定量化され、言語を跨いで競争力のあるグレード変化スコアを生成することがある。埋め込みベースのシステムを上回る場合もある。
• 頻度フィルタリングとPOS除去は性能を大幅に向上させ、組み合わせ設定は「平均順位相関」がいくつかの言語でベースラインに近づく、あるいは上回る顕著な向上を示す。
• 本手法は高い解釈可能性を提供する：変化への各スロット寄与は分解・検査可能で、言語変化を追跧できる（例：新たな医療用途、比喩的転換）。
• 場合によっては、スロットレベルの高い分岐によって変化を過大評価することがあり、JSD閾値を超えない新規性は見逃される可能性がある。
• 本手法は意味変化に関する言語理論と頑健性を示し、ニューラル手法の透明な補完として機能するもので、完全な置換にはならない。
• 定性的分析は、正しく同定された変化（真陽性）と、スロットレベルの閾値・データ疎性に起因する誤検知・偽陰性といった一般的な失敗モードを示す。

Figure 2: The JSD contributions of different slot-fillers in the slot chi_compound of the English noun graft . Green bars indicate an increase in relative frequency; red bars indicate a decrease.