[论文解读] Inducing a Semantically Annotated Lexicon via EM-Based Clustering

Mats Rooth, Stefan Riezler+3 more|ArXiv.org|May 19, 1999

Natural Language Processing Techniques被引用 4

一句话总结

本文提出一种基于EM的聚类方法，通过从已分析语料中学习子类化框架中的隐藏类别，自动归纳语义标注词典。该方法使用统计估计推断槽标注，通过迭代期望-最大化实现稳健的词汇分解，实证评估证实其在捕捉语义框架结构方面的有效性。

ABSTRACT

We present a technique for automatic induction of slot annotations for subcategorization frames, based on induction of hidden classes in the EM framework of statistical estimation. The models are empirically evalutated by a general decision test. Induction of slot labeling for subcategorization frames is accomplished by a further application of EM, and applied experimentally on frame observations derived from parsing large corpora. We outline an interpretation of the learned representations as theoretical-linguistic decompositional lexical entries.

研究动机与目标

• 开发一种自动方法，从大规模语料中归纳子类化框架中的语义槽标注。
• 将EM框架应用于发现表示句法框架中语义角色的隐藏类别。
• 使用真实语料的解析数据上的通用决策测试评估模型性能。
• 将学习到的表示解释为具有分解结构的理论语言学词汇条目。
• 证明使用统计聚类进行无监督语义词典归纳的可行性。

提出的方法

• 该方法使用EM算法估计从已分析语料中提取的子类化框架中的隐藏类别。
• 将槽标注建模为隐变量，并应用迭代期望-最大化算法以优化聚类分配。
• 通过基于句法框架中分布模式的论元结构聚类，实现语义角色的归纳。
• 使用通用决策测试对所归纳标注的质量进行实证评估。
• 该框架支持具有分解语义结构的词汇条目的归纳。
• 模型在从大规模句法解析输出中提取的框架观测数据上进行训练。

实验结果

研究问题

• RQ1 基于EM的聚类能否在无需人工标注的情况下有效归纳子类化框架中的语义槽标注？
• RQ2 所归纳的隐藏类别在多大程度上与理论语言学中的语义角色一致？
• RQ3 该模型在捕捉语义框架结构方面的实证性能如何？
• RQ4 所学习的表示能否被解释为有效的分解性词汇条目？
• RQ5 该方法在不同句法和语义框架类型上的鲁棒性如何？

主要发现

• 基于EM的聚类方法能够从未标注的子类化框架数据中成功归纳出语义上合理的槽标注。
• 该模型在通用决策测试中表现显著，验证了其捕捉语义结构的能力。
• 所归纳的表示可被解释为具有分解语义的理论语言学词汇条目。
• 该方法证明了使用统计估计在已分析语料上进行无监督词典归纳的可行性。
• 结果表明，EM框架中的隐藏类别能够有效建模句法框架中的语义角色。
• 该方法为构建无需大量人工标注的语义标注词典提供了可扩展的解决方案。