[论文解读] Topic Extraction and Bundling of Related Scientific Articles

Shameem Ahamad Puthiva Parambath|arXiv (Cornell University)|Dec 21, 2012

Advanced Text Analysis Techniques参考文献 41被引用 3

一句话总结

本文提出了一种两步法，用于自动提取主题并捆绑相关科学文献，采用潜在狄利克雷分布（LDA）进行主题建模，以及结合内容与合作者相似性的层次聚合聚类。该方法在用户研究中达到89.1%的一致性，并在82.7%的对比评估中优于仅基于内容的聚类，证明了其在数字图书馆和信息检索系统中提升文献捆绑语义质量的有效性。

ABSTRACT

Automatic classification of scientific articles based on common characteristics is an interesting problem with many applications in digital library and information retrieval systems. Properly organized articles can be useful for automatic generation of taxonomies in scientific writings, textual summarization, efficient information retrieval etc. Generating article bundles from a large number of input articles, based on the associated features of the articles is tedious and computationally expensive task. In this report we propose an automatic two-step approach for topic extraction and bundling of related articles from a set of scientific articles in real-time. For topic extraction, we make use of Latent Dirichlet Allocation (LDA) topic modeling techniques and for bundling, we make use of hierarchical agglomerative clustering techniques. We run experiments to validate our bundling semantics and compare it with existing models in use. We make use of an online crowdsourcing marketplace provided by Amazon called Amazon Mechanical Turk to carry out experiments. We explain our experimental setup and empirical results in detail and show that our method is advantageous over existing ones.

研究动机与目标

• 为解决将大量科学文献整合为连贯、有意义的文献组以提升信息检索与数字图书馆组织效率的挑战。
• 开发一种可扩展、实时的捆绑系统，整合潜在主题与作者关系，以增强语义连贯性。
• 通过实证用户研究，验证混合相似性（内容 + 合作者）相较于仅基于内容的相似性在文献捆绑中的有效性。
• 提供一种通用且可扩展的框架，适用于非结构化与结构化科学数据的文献捆绑。

提出的方法

• 利用潜在狄利克雷分布（LDA）从科学文献中提取潜在主题，将每篇文档建模为多个主题的混合。
• 应用层次聚合聚类，基于文本间距离与合作者相似性对文献进行分组，结合内容与作者特征。
• 通过MALLET工具包中的Gibbs采样推断LDA模型中的主题分布与词-主题分配。
• 将文档级主题分布与作者共现关系相结合，计算复合相似性度量以支持聚类。
• 使用Amazon Mechanical Turk开展独立且对比性的用户研究，以评估文献捆绑质量与语义连贯性。
• 采用问卷调查评估基于内容仅与扩展相似性（内容 + 合作者）的聚类在相似性与偏好上的差异。

实验结果

研究问题

• RQ1 结合LDA主题建模与混合相似性聚类的两步法是否能有效捆绑相关科学文献？
• RQ2 与仅基于内容的相似性相比，引入合作者相似性在多大程度上提升了文献组的语义连贯性？
• RQ3 人类评估者在多大程度上认为所提出的捆绑方法比现有基于内容的方法更具连贯性？
• RQ4 在不同科学主题中，该方法在用户一致性与偏好方面的相对表现如何？

主要发现

• 在信息检索主题的独立研究中，该方法实现了100%的一致性，表明文献组具有极强的语义连贯性。
• 在机器学习主题中，84.2%的工作者确认同一组内的文献彼此相似，支持该方法在多样化领域中的有效性。
• 对比研究显示，82.7%的用户更偏好使用扩展相似性（内容 + 合作者）生成的文献组，而非仅基于内容的组。
• 总体而言，89.1%的用户在独立研究中确认同一组内的文献非常相似，表明捆绑过程具有高度的语义质量。
• 该方法在各主题中均表现出一致的优越性，对比评估中的偏好比例在80%至86%之间。
• 结果表明，整合合作者与主题相似性可显著提升文献组的可解释性与连贯性。