[论文解读] Stochastic HPSG

C. Brew|arXiv (Cornell University)|Feb 17, 1995

Natural Language Processing Techniques被引用 29

一句话总结

本文为头驱动短语结构语法（HPSG）中的类型化特征结构提出了一种概率解释，将其扩展以处理重入结构。该文提出了基于语料库的数值参数估计算法，实现了在保持形式语言学精确性的同时对句法结构进行统计建模。

ABSTRACT

In this paper we provide a probabilistic interpretation for typed feature structures very similar to those used by Pollard and Sag. We begin with a version of the interpretation which lacks a treatment of re-entrant feature structures, then provide an extended interpretation which allows them. We sketch algorithms allowing the numerical parameters of our probabilistic interpretations of HPSG to be estimated from corpora.

研究动机与目标

• 为 HPSG 中使用的类型化特征结构建立概率解释，类似于 Pollard 和 Sag 框架中的解释。
• 将概率解释扩展至处理在语言分析中常见的重入特征结构。
• 提出从标注语料库中估计概率 HPSG 模型数值参数的算法。
• 在保持形式体系语言表达力的同时，实现句法结构的统计建模。

提出的方法

• 采用概率框架对类型化特征结构进行建模，为特征结构配置分配概率。
• 引入参数化模型，将特征结构类型及其约束与概率分布相关联。
• 通过修改特征路径上的概率分布以处理共享引用，将模型扩展以支持重入结构。
• 基于语料数据提出推理与参数估计算法，采用最大似然或类似原则。
• 使用迭代方法从句法标注中估计参数，确保与观察到的语言结构一致。
• 定义特征结构树上的似然函数，以指导从训练语料中学习参数。

实验结果

研究问题

• RQ1 如何在不处理重入性的情况下，为 HPSG 中的类型化特征结构一致地分配概率解释？
• RQ2 为处理重入特征结构，需要对概率解释进行哪些修改？
• RQ3 能否从语言语料库中可靠地估计概率 HPSG 模型的数值参数？
• RQ4 哪些算法方法能够在此框架中实现高效且准确的参数估计？

主要发现

• 本文成功将概率 HPSG 扩展至处理重入特征结构，同时保持了语言学上的连贯性。
• 建立了为特征结构分配概率的正式框架，从而支持统计推理。
• 提出了可应用于真实语料数据的参数估计算法。
• 该模型在保留 HPSG 形式结构的同时，通过参数学习引入了统计鲁棒性。