[论文解读] Automated Phrase Mining from Massive Text Corpora

Jingbo Shang, Jialu Liu+4 more|arXiv (Cornell University)|Feb 15, 2017

Topic Modeling被引用 12

一句话总结

本文提出 AutoPhrase，一种完全自动化的短语挖掘框架，利用通用知识库（如 Wikipedia）中的高质量短语作为远程监督信号，无需人工标注数据。该方法引入了鲁棒的仅正样本远程训练和基于词性标注的短语分割技术，显著提升了在多种领域和语言下的性能，相比最先进方法在召回率和效率方面均有显著提升。

ABSTRACT

As one of the fundamental tasks in text analysis, phrase mining aims at extracting quality phrases from a text corpus. Phrase mining is important in various tasks such as information extraction/retrieval, taxonomy construction, and topic modeling. Most existing methods rely on complex, trained linguistic analyzers, and thus likely have unsatisfactory performance on text corpora of new domains and genres without extra but expensive adaption. Recently, a few data-driven methods have been developed successfully for extraction of phrases from massive domain-specific text. However, none of the state-of-the-art models is fully automated because they require human experts for designing rules or labeling phrases. Since one can easily obtain many quality phrases from public knowledge bases to a scale that is much larger than that produced by human experts, in this paper, we propose a novel framework for automated phrase mining, AutoPhrase, which leverages this large amount of high-quality phrases in an effective way and achieves better performance compared to limited human labeled phrases. In addition, we develop a POS-guided phrasal segmentation model, which incorporates the shallow syntactic information in part-of-speech (POS) tags to further enhance the performance, when a POS tagger is available. Note that, AutoPhrase can support any language as long as a general knowledge base (e.g., Wikipedia) in that language is available, while benefiting from, but not requiring, a POS tagger. Compared to the state-of-the-art methods, the new method has shown significant improvements in effectiveness on five real-world datasets across different domains and languages.

研究动机与目标

• 开发一种完全自动化的短语挖掘框架，最大限度减少人工投入和语言适应工作。
• 解决现有方法依赖昂贵人工标注或复杂语言分析器的局限性。
• 在无需领域特定训练数据的前提下，提升在多种领域和多种语言中的短语挖掘性能。
• 通过包含高质量单字短语（如 'UIUC' 和 'USA'）来提升召回率，这些短语常被传统方法遗漏。
• 通过鲁棒的远程训练和并行化索引策略，实现可扩展性和高效性。

提出的方法

• AutoPhrase 采用仅正样本的远程训练策略，利用 Wikipedia 等通用知识库中的高质量短语作为正样本标签，避免人工标注。
• 从目标领域语料中构建负样本标签，并通过聚合多个独立基分类器的预测结果来降低噪声。
• 基于词性标注的短语分割模型利用词性标注信息，在预训练词性标注器可用时提升短语边界检测的准确性。
• 只要目标语言存在通用知识库，该框架即可支持任意语言，实现多语言短语挖掘。
• 通过引入流行度、信息量和独立性标准，扩展框架以包含高质量单字短语，并使用校正频率比来衡量独立性。
• 系统采用高效的索引和并行化策略，相比 SegPhrase 等先前方法，实现最高 11 倍的加速和 80–86% 的内存减少。

实验结果

研究问题

• RQ1 能否在不依赖人工标注短语或复杂语言工具的前提下，完全自动化短语挖掘？
• RQ2 在低资源领域中，将通用知识库作为正样本训练信号来源，其在短语挖掘中的有效性如何？
• RQ3 在多语言环境下，引入词性标注信息在多大程度上能提升短语边界检测的性能？
• RQ4 包含高质量单字短语对整体召回率的影响如何？
• RQ5 与现有最先进方法相比，AutoPhrase 在不同领域和语言中的可扩展性如何？

主要发现

• 在英语、西班牙语和中文的五个真实世界数据集上，AutoPhrase 在包含高质量单字短语时，召回率显著提升 10–30%。
• 包含 'UIUC' 和 'USA' 等单字短语显著提升了召回率，尤其在中文中效果明显，因这些短语在分词后常被识别为独立实体。
• 支持单字短语的 AutoPhrase+ 在中文数据集的早期召回阶段表现优于 AutoPhrase，表明在某些语言中单字短语具有关键作用。
• 由于优化的索引和并行化策略，与 SegPhrase 相比，AutoPhrase 将内存使用减少 80–86%，运行时间提升最高 11 倍。
• 利用 Wikipedia 等知识库进行鲁棒的仅正样本远程训练，可消除人工标注需求，同时在多种领域和语言中保持高性能。
• 当可用预训练词性标注器时，基于词性标注的短语分割能提升准确性，且不损害领域独立性。