[論文レビュー] Inducing a Semantically Annotated Lexicon via EM-Based Clustering

Mats Rooth, Stefan Riezler+3 more|ArXiv.org|May 19, 1999

Natural Language Processing Techniques被引用数 4

ひとこと要約

本稿では、構文解析済みコーパスから述語フレーム内の隠れクラスを学習することにより、意味的に注釈された語彙を自動的に誘導するEMベースのクラスタリング手法を提示する。この手法は統計的推定を用いてスロット注釈を推定し、反復的期待最大化を用いて堅牢な語彙的分解を実現する。実験的評価により、この手法が意味的フレーム構造を効果的に捉えられることを確認した。

ABSTRACT

We present a technique for automatic induction of slot annotations for subcategorization frames, based on induction of hidden classes in the EM framework of statistical estimation. The models are empirically evalutated by a general decision test. Induction of slot labeling for subcategorization frames is accomplished by a further application of EM, and applied experimentally on frame observations derived from parsing large corpora. We outline an interpretation of the learned representations as theoretical-linguistic decompositional lexical entries.

研究の動機と目的

• 大規模コーパスから述語フレームにおける意味的スロット注釈を自動的に誘導する手法を開発すること。
• EMフレームワークを用いて文法フレーム内の意味的役割を表す隠れクラスを発見すること。
• 実世界の構文解析データを用いた一般化意思決定テストにより、モデルの性能を評価すること。
• 学習された表現を理論的言語学的語彙項目として、分解的構造を持つものとして解釈すること。
• 統計的クラスタリングを用いた非教師あり語彙の誘導の可能性を示すこと。

提案手法

• 本手法は、構文解析済みコーパスから得られる述語フレームにおける隠れクラスを推定するためにEMアルゴリズムを用いる。
• スロット注釈を潜在変数としてモデル化し、反復的期待最大化を適用してクラスタ割り当てを改善する。
• 文法フレーム内の分布的パターンに基づいて、述語の項構造をクラスタリングすることで意味的役割を誘導する。
• 誘導された注釈の品質を実証的に評価するために一般化意思決定テストを用いる。
• フレームワークは、分解的意味的構造を持つ語彙項目の誘導をサポートする。
• モデルは大規模な構文解析出力から抽出されたフレーム観測値を学習データとして用いる。

実験結果

リサーチクエスチョン

• RQ1 手動ラベルなしで、EMベースのクラスタリングが述語フレーム内の意味的スロット注釈を効果的に誘導できるか？
• RQ2 誘導された隠れクラスは、理論的言語学的意味的役割とどの程度整合するか？
• RQ3 モデルの性能は、意味的フレーム構造をどの程度正しく捉えられるか？
• RQ4 学習された表現は、有効な分解的語彙項目として解釈可能か？
• RQ5 本手法は多様な文法的・意味的フレームタイプにわたってどの程度頑健か？

主な発見

• EMベースのクラスタリング手法は、生の述語フレームデータから意味的に意味のあるスロット注釈を効果的に誘導できた。
• 一般化意思決定テストにおいて顕著な性能を達成し、モデルが意味的構造を正しく捉えられることを裏付けた。
• 誘導された表現は、分解的意味を持つ理論的言語学的語彙項目として解釈可能である。
• 統計的推定を用いた構文解析コーパス上での非教師あり語彙誘導の可能性が示された。
• 隠れクラスがEMフレームワーク内で文法フレーム内での意味的役割を効果的にモデル化できることを示した。
• 広範な手動注釈なしに、意味的に注釈された語彙のスケーラブルな構築ソリューションを提供した。