[论文解读] Discovering topics in text datasets by visualizing relevant words

Franziska Horn, Leila Arras+3 more|arXiv (Cornell University)|Jul 18, 2017

Advanced Text Analysis Techniques参考文献 14被引用 3

一句话总结

本文提出了一种通过识别并可视化区分文档聚类的相关词汇来发现文本数据集中趋势主题的方法。该方法结合DBSCAN聚类与基于真正例率（TPR）和假正例率（FPR）的新型相关性评分，生成能够揭示显著主题的信息性词云——在《纽约时报》新闻片段中成功揭示了特朗普就职典礼及其相关事件等关键主题。

ABSTRACT

When dealing with large collections of documents, it is imperative to quickly get an overview of the texts' contents. In this paper we show how this can be achieved by using a clustering algorithm to identify topics in the dataset and then selecting and visualizing relevant words, which distinguish a group of documents from the rest of the texts, to summarize the contents of the documents belonging to each topic. We demonstrate our approach by discovering trending topics in a collection of New York Times article snippets.

研究动机与目标

• 通过识别显著主题，实现对大规模非结构化文本数据集的快速探索性分析。
• 解决传统关键词提取方法在捕捉文档组间主题特异性差异方面的局限性。
• 开发一种稳健且快速的方法，识别能将一个文档聚类与其他聚类区分开来的词汇，且无需标注数据。
• 展示词云可视化在总结和解释真实世界文本集合中主题聚类方面的实用性。
• 提供一个开源工具，以实现该方法在新文本数据集上的复现与应用。

提出的方法

• 通过小写转换、去除非字母数字字符，并计算单字和双字短语的tf-idf向量，对文本进行预处理。
• 使用DBSCAN聚类，设定余弦相似度最小阈值为0.55，最小聚类大小为三个文档，以分组相关文章。
• 基于词汇在聚类内的真正例率（TPR）及其在其他聚类中的假正例率（FPR），计算每个词汇的相关性评分。
• 使用公式 $ r_c(t_i) = 0.5(r_{c\_diff}(t_i) + r_{c\_quot}(t_i)) $ 将TPR与FPR评分合并为最终的相关性评分，其中 $ r_{c\_quot} $ 为比率商，用于对不平衡情况进行归一化。
• 为每个聚类选取排名靠前的词汇，并将其可视化为词云以总结每个主题。
• 在单个文档中高亮相关词汇，以支持解释与导航。

实验结果

研究问题

• RQ1 基于聚类的方法结合词可视化，能否有效揭示大规模文本集合中的趋势主题？
• RQ2 在缺乏标注数据的情况下，如何识别能将一个文档聚类与其他聚类区分开来的相关词汇？
• RQ3 所提出的基于TPR-FPR的相关性评分在识别主题定义词方面，与传统方法（如tf-idf）相比，其优越性在多大程度上体现？
• RQ4 该方法能否在缺乏先验主题知识的情况下，从未经处理的新闻片段中检测到有意义的真实世界事件（如政治就职典礼、体育赛事）？
• RQ5 该方法在聚类大小和文档分布变化下具有多大程度的鲁棒性？

主要发现

• 该方法成功识别出特朗普就职典礼当周为核心主题，相关词汇如 'Trump'、'inauguration' 和 'president' 显示出强烈的聚类特征。
• 该方法还检测到诸如澳大利亚网球公开赛和意大利雪崩等次要事件，证明其能够发现超越主要事件的细微主题。
• 基于高相关性评分词汇生成的词云能清晰总结每个聚类，支持对文档内容的快速视觉解读。
• 采用基于TPR和FPR的评分机制，降低了选择无意义词汇（如 'Tuesday'）的风险，这些词汇可能因时间频率而被错误地提升。
• 在就职典礼当周共识别出超过50个有意义的聚类，包括与政治任命和刑事司法改革相关的主题，验证了该方法对多样化主题的敏感性。
• 开源库 'textcatvis' 支持方法的完整可复现性与在其他文本数据集上的重用。