[論文レビュー] Task-specific Word-Clustering for Part-of-Speech Tagging

Yoav Goldberg|arXiv (Cornell University)|May 19, 2012

Natural Language Processing Techniques参考文献 21被引用数 3

ひとこと要約

本稿では、語彙的類似性ではなく、ベースラインタガーラーの予測タグ分布 p(T=t|w) から導出されるタスク固有の語クラスタリングを、品詞タギングに提案する。この手法は、語の識別子特徴をクラスタベースの表現に置き換えることで、特にドメイン外および低リソースデータにおいて顕著な性能向上を達成し、語彙的類似性クラスタリングと同等のタギング精度を実現する。

ABSTRACT

While the use of cluster features became ubiquitous in core NLP tasks, most cluster features in NLP are based on distributional similarity. We propose a new type of clustering criteria, specific to the task of part-of-speech tagging. Instead of distributional similarity, these clusters are based on the beha vior of a baseline tagger when applied to a large corpus. These cluster features provide similar gains in accuracy to those achieved by distributional-similarity derived clusters. Using both types of cluster features together further improve tagging accuracies. We show that the method is effective for both the in-domain and out-of-domain scenarios for English, and for French, German and Italian. The effect is larger for out-of-domain text.

研究の動機と目的

• 品詞タギングにおけるタスク固有の言語的パターンを捉えるために、語彙的類似性クラスタリングの限界を是正すること。
• タスク固有の特徴を用いた半教師付き学習により、低リソースおよびドメイン外の状況におけるタギング精度を向上させること。
• タガラー自身の予測から導出されるクラスタ特徴が、語彙的同一性特徴を置き換えても精度に損なわれないことを示すこと。
• 複数言語（英語、フランス語、ドイツ語、イタリア語）および複数ドメインにおけるタスク固有クラスタリングの有効性を評価すること。

提案手法

• ドメイン内に注釈付きデータを用いて教師あり品詞タガラーを学習し、大規模な非注釈コーパスに対して予測を実行する。
• 語 w について、タガラー出力からの経験的条件付きタグ分布 p(T=t|w) を計算し、|T|-次元のベクトルを形成する。
• p(T=t|w) ベクトル間のユークリッド距離に基づき、k-means を用いて語をクラスタリングする。クラスタ分離性を高めるために k-means++ 初期化を採用する。
• 隣接語を考慮するため、p(T_{+1}=t|w) および p(T_{-1}=t|w) を用いたクラスタリングを拡張し、文脈依存のタギング行動を捉える。
• 導出されたクラスタを判別的系列タガラーにおける追加特徴として使用し、語の識別子特徴を置き換えたり補完したりする。
• タスク固有クラスタと語彙的類似性クラスタ（例：Brown や Exchange アルゴリズムによるもの）を組み合わせることで、累積的な精度向上を達成する。

実験結果

リサーチクエスチョン

• RQ1 タガラー自身の予測から導出される語クラスタリングは、語彙的類似性クラスタリングに比べて品詞タギング精度を向上させるか？
• RQ2 タスク固有クラスタ特徴は、品詞タギングモデルにおいて、明示的な語の識別子特徴をどの程度置き換え可能か？
• RQ3 タスク固有クラスタリングは、ドメイン外および低リソース設定においてどの程度有効か？
• RQ4 タスク固有クラスタリングは、語彙的類似性クラスタリングと組み合わせた際に補完的情報を提供するか？
• RQ5 本手法は、複数言語（英語、フランス語、ドイツ語、イタリア語）およびドメインシフトに対してどの程度一般化可能か？

主な発見

• タガラーの予測 p(T=t|w) に基づくタスク固有クラスタリングは、語彙的類似性クラスタリング（例：Brown や Exchange に基づくもの）と同等のタギング精度を達成し、ドメイン内データでは最大 0.8%、ドメイン外データでは最大 1.5% の向上を示した。
• タスク固有クラスタと語彙的類似性クラスタを組み合わせることで最高の性能が得られ、全特徴を用いた場合、Football データセット（FTBL）で 0.93% の向上を達成した。
• 語の識別子特徴（w₀）を含まず、タスク固有クラスタ（ζ₀）のみを用いたモデルは、Football データセットで 94.03% の精度を達成し、語の識別子と直前のタグ（t₋₁）のみを用いたモデルを上回った。
• タスク固有クラスタリングによる最大の性能向上は、Football や Web データセットなどのドメイン外データで観察され、1% を超える改善が確認された。
• タスク固有クラスタリングは複数言語で有効である：ドイツ語（全特徴を用いた場合 98.00%）、フランス語（97.74%）、イタリア語（96.39%）は、ベースラインおよび語彙的類似性クラスタリングを上回る一貫した向上を示した。
• WSJ のみで学習し、全タスク固有クラスタ（w₀ を含まない）を用いたモデルは、追加のドメイン内データ（Football）を併用した共同学習を上回った。これは、クラスタ特徴が限られたドメイン内アノテーションよりも情報量が多いことを示している。