[論文レビュー] Learning Word Association Norms Using Tree Cut Pair Models

Naoki Abe, Hang Li|ArXiv.org|May 16, 1996

Natural Language Processing Techniques参考文献 10被引用数 43

ひとこと要約

本稿では、最小記述長（MDL）原理に基づくツリー切断ペアモデルを用いて、語の関連性規範を学習するための新規手法を提案する。条件付き確率 $ p(x|y) $ を関連性規範 $ A(x,y) $ と周辺確率 $ p(x) $ の積としてモデル化することにより、共起パターンの効率的かつ高精度な推定が可能となり、文法的曖昧除去タスクにおいて80.0%のカバレッジと95.2%の正確性を達成し、MDL法や選択性関連法を上回る性能を示した。

ABSTRACT

We consider the problem of learning co-occurrence information between two word categories, or more in general between two discrete random variables taking values in a hierarchically classified domain. In particular, we consider the problem of learning the `association norm' defined by A(x,y)=p(x, y)/(p(x)*p(y)), where p(x, y) is the joint distribution for x and y and p(x) and p(y) are marginal distributions induced by p(x, y). We formulate this problem as a sub-task of learning the conditional distribution p(x|y), by exploiting the identity p(x|y) = A(x,y)*p(x). We propose a two-step estimation method based on the MDL principle, which works as follows: It first estimates p(x) as p1 using MDL, and then estimates p(x|y) for a fixed y by applying MDL on the hypothesis class of {A * p1 | A \in B} for some given class B of representations for association norm. The estimation of A is therefore obtained as a side-effect of a near optimal estimation of p(x|y). We then apply this general framework to the problem of acquiring case-frame patterns. We assume that both p(x) and A(x, y) for given y are representable by a model based on a classification that exists within an existing thesaurus tree as a `cut,' and hence p(x|y) is represented as the product of a pair of `tree cut models.' We then devise an efficient algorithm that implements our general strategy. We tested our method by using it to actually acquire case-frame patterns and conducted disambiguation experiments using the acquired knowledge. The experimental results show that our method improves upon existing methods.

研究の動機と目的

• 自然言語処理への応用を目的とした、大規模コーパスデータから信頼性の高い語の関連性規範を学ぶ課題に対処すること。
• 語のカテゴリ間の共起強度を測る指標である $ A(x,y) = p(x,y)/p(x)p(y) $ を、原理的かつ一貫性のある方法で推定する手法の開発。
• この推定フレームワークを、特に文法的曖昧除去を目的とした、コーパスベースのNLPにおける格助詞フレームパターンの習得に応用すること。
• 条件付き確率に加えて、より強固な共起測定法を用いることで、従来手法に比べて曖昧除去性能を向上させること。
• カバレッジ、正確性、信頼度の閾値を比較するPP-アタッチメント曖昧除去実験を通じて、手法の実証的妥当性を検証すること。

提案手法

• 本手法は、$ p(x|y) $ の推定を2段階のMDLに基づくプロセスとして定式化する：まず周辺確率 $ \hat{p}(x) $ を推定し、次に仮説クラス $ \{ A \cdot \hat{p} \mid A \in \mathcal{A} \} $ を用いて $ p(x|y) $ を推定する。
• 恒等式 $ p(x|y) = A(x,y) \cdot p(x) $ を活用することで、最適な条件付き密度推定の副産物として関連性規範 $ A(x,y) $ を導出可能となる。
• 語のカテゴリの構造的かつ階層的なモデリングを可能とするために、同義語辞書の階層構造から導かれるツリー切断モデルを用いて $ p(x) $ と $ A(x,y) $ の表現を制限する。
• モデルの複雑さとデータへの適合度のバランスを取るため、MDLに基づく推定をツリー切断ペアモデルフレームワーク内で実装する効率的アルゴリズムを考案する。
• 信頼度の閾値を制御するため、標準誤差の近似に基づく信頼性テストを用いて、カバレッジと正確性のトレードオフを制御する。
• PP-アタッチメント曖昧除去の評価において、$ \hat{A}(noun_2, verb) $ と $ \hat{A}(noun_2, noun_1) $ を比較し、関連性規範がより高い方の選択により前置詞句を割り当てる。

実験結果

リサーチクエスチョン

• RQ1 コーパスデータから、原理的かつ一貫性のある学習手法を用いて、関連性規範 $ A(x,y) = p(x,y)/p(x)p(y) $ を効果的に推定できるか？
• RQ2 条件付き確率 $ p(x|y) $ を $ A(x,y) \cdot p(x) $ としてモデル化することで、直接的な $ p(x|y) $ 推定に比べて、共起パターンの推定がより良くなるか？
• RQ3 階層的同義語辞書構造に基づくツリー切断ペアモデルは、曖昧除去の性能向上に寄与する形で、語の関連性規範を効果的に表現できるか？
• RQ4 提案手法によるMDLに基づく関連性規範推定は、従来手法に比べ、文法的曖昧除去においてより高い正確性とカバレッジを達成できるか？
• RQ5 希少語の共起が関与する曖昧除去タスクにおいて、条件付き確率よりも関連性規範がより適切な測定指標であるか？

主な発見

• 提案手法は、PP-アタッチメント曖昧除去において80.0%のカバレッジと95.2%の正確性を達成し、MDL法（73.3%カバレッジ、94.6%正確性）および選択性関連法（63.7%カバレッジ、94.3%正確性）を顕著に上回った。
• 低信頼度閾値でも高い正確性を維持したため、不確実性下での意思決定において、本手法の強固さと信頼性が示された。
• カバレッジ-正確性曲線から、本手法（Assoc）はMDLおよびSAの両者を常に上回っており、正確性とカバレッジが等しくなるブレークイーブン点において特に顕著であった。
• 結果から、関連性規範は、希少語が関与する状況において、条件付き確率よりもより効果的な測定指標であることが確認された。
• ヒューリスティックな選択性関連法に比べ、MDLに基づく関連性規範推定が実際の応用においてより効果的であることが示されたが、両者とも類似した基本原理に依存している。
• 本手法はコーパスデータから格助詞フレームパターンを効果的に習得でき、特に文法的曖昧除去を含む実世界のNLP応用における有用性を示した。