[论文解读] Emergent Linguistic Rules from Inducing Decision Trees: Disambiguating Discourse Clue Words

Eric V. Siegel, Kathleen McKeown|ArXiv.org|Aug 13, 1994

Natural Language Processing Techniques参考文献 18被引用 24

一句话总结

本文提出一种基于遗传算法的决策树归纳方法，通过分析周围词汇和标点符号上下文，对话语线索词（如'and'、'say'或'however'等表示话语关系的词）进行消歧。该方法能自动生成具有语言学可解释性的规则，在'and'上达到76.44%的准确率，在'say'上达到83.33%的准确率，表明联合处理多个线索词的消歧方法相比逐词处理方法具有更好的泛化能力。

ABSTRACT

We apply decision tree induction to the problem of discourse clue word sense disambiguation with a genetic algorithm. The automatic partitioning of the training set which is intrinsic to decision tree induction gives rise to linguistically viable rules.

研究动机与目标

• 解决话语线索词同时具有话语层级和句内意义时的消歧挑战。
• 通过联合学习多个线索词而非单独处理每个词，提升词义消歧性能。
• 从决策树归纳中自动提取具有语言学意义的规则，以增强可解释性并揭示句法依赖关系。
• 评估基于局部上下文（词项和标点符号）训练的决策树是否能有效泛化于线索词词义消歧任务。
• 将基于遗传算法的决策树归纳方法与传统的自顶向下递归划分方法进行性能比较。

提出的方法

• 使用遗传算法进行决策树归纳，以在训练集上优化准确率，实现线索词词义消歧。
• 决策树使用局部上下文作为特征：歧义词本身、其直接左邻词和右邻词，以及最多四个右邻词。
• 在树归纳过程中自动划分训练集，生成反映线索词使用语言学规律的规则。
• 从生成的树中提取规则，并评估其语言学有效性与预测性能。
• 与使用递归划分方法（类似Quinlan的C4.5）的基线决策树进行性能对比。
• 在标注了线索词词义的口语英语语料库上评估该方法。

实验结果

研究问题

• RQ1 仅使用局部词汇和标点符号上下文，基于遗传算法的决策树归纳能否有效实现话语线索词的消歧？
• RQ2 自动生成的规则是否反映了关于线索词使用的语言学上合理的概括？
• RQ3 与针对单一词构建的模型相比，联合处理多个线索词的消歧是否能提升学习效果与泛化能力？
• RQ4 在该消歧任务中，基于遗传算法的决策树方法与传统递归划分方法的性能相比如何？
• RQ5 是否存在仍缺失的句法或结构信息，可进一步提升消歧准确率？

主要发现

• 基于遗传算法的决策树归纳在'and'线索词上达到76.44%的平均测试准确率，在'say'上达到70.00%的准确率。
• 该方法生成了可解释的语言学规则，例如“若前一个词是'to'，则'say'很可能是话语线索词”，这些规则经验证具有语言学意义。
• 性能最佳的遗传算法树在'and'上达到76.44%的准确率，在'say'上达到83.33%的准确率，优于人工构建的决策树（准确率为75.60%）。
• 生成的规则表明，仅相邻词项和歧义词本身具有信息价值，说明对更广泛上下文的需求有限。
• 该方法的泛化能力优于针对单一词的模型，因为它能从多个线索词中学习稀有实例。
• 遗传算法方法的平均准确率（76.20%）与自顶向下递归划分基线方法（75.06%）相当。