[论文解读] Using machine learning and information visualisation for discovering latent topics in Twitter news

Vladimir Vargas-Calderón, Marlon Steibeck Dominguez+3 more|arXiv (Cornell University)|Oct 21, 2019

Social Media and Politics参考文献 27被引用 6

一句话总结

本文提出一种两阶段方法，结合无监督主题建模（LDA 和 FastText + K-means）与有监督分类，以发现新闻推文中的潜在主题，并基于用户回复预测其主题。FastText + K-means 方法在主题可解释性和分类性能方面优于 LDA，基于回复预测新闻主题的 top-1 精确率和召回率均达到 40%，并揭示了哥伦比亚和平条约是社会影响最深远的主题。

ABSTRACT

We propose a method to discover latent topics and visualise large collections of tweets for easy identification and interpretation of topics, and exemplify its use with tweets from a Colombian mass media giant in the period 2014--2019. The latent topic analysis is performed in two ways: with the training of a Latent Dirichlet Allocation model, and with the combination of the FastText unsupervised model to represent tweets as vectors and the implementation of K-means clustering to group tweets into topics. Using a classification task, we found that people respond differently according to the various news topics. The classification tasks consists of the following: given a reply to a news tweet, we train a supervised algorithm to predict the topic of the news tweet solely from the reply. Furthermore, we show how the Colombian peace treaty has had a profound impact on the Colombian society, as it is the topic in which most people engage to show their opinions.

研究动机与目标

• 使用无监督机器学习方法识别来自哥伦比亚主要媒体机构的大规模新闻推文中的潜在主题。
• 评估公众对不同新闻主题的回复在语言特征和参与模式上是否存在显著差异。
• 开发并比较两种主题建模流程：LDA 和 FastText + K-means，用于主题发现与可视化。
• 训练一个有监督的 FastText 模型，仅基于用户回复文本预测新闻推文的主题。
• 通过参与度指标评估特定主题的社会影响，特别是哥伦比亚和平条约的影响。

提出的方法

• 通过 Twitter API 收集了来自 @NoticiasRCN（2014–2019 年）的 258,848 条新闻推文及 140 万条回复。
• 通过去除标点符号、URL、话题标签、提及信息，并将词形还原为小写形式，对推文进行预处理。
• 应用隐狄利克雷分布（LDA）模型，通过建模语料库中词语共现概率，学习 12 个潜在主题。
• 使用 FastText 生成推文的稠密向量表示，随后通过 K-means 聚类将推文划分为 12 个簇，代表 12 个主题。
• 通过概率阈值（0.8）选择 LDA 的代表性推文，通过到聚类中心的距离阈值选择 FastText + K-means 的代表性推文。
• 训练一个有监督的 FastText 分类器，仅以回复文本作为输入，预测新闻推文的主题。

实验结果

研究问题

• RQ1 无监督主题建模能否有效发现来自主流媒体机构的新闻推文中的潜在主题？
• RQ2 公众对新闻推文的回复在语言模式上是否因原始推文主题的不同而存在显著差异？
• RQ3 在 LDA 与 FastText + K-means 两种主题建模方法中，哪种能产生更具可解释性且视觉上更一致的主题？
• RQ4 有监督模型能否仅基于用户回复准确预测新闻推文的主题？
• RQ5 在所发现的主题中，哪一个新闻主题引发了最高水平的公众参与度与社会影响？

主要发现

• FastText + K-means 方法在可视化中产生了更具可解释性且分离更清晰的主题簇，优于 LDA。
• FastText + K-means 方法在基于回复预测新闻推文主题的任务中，top-1 精确率与召回率均达到 40%，显著优于 LDA。
• 被标记为“和平条约政治”的主题最具参与度，每条推文获得的点赞数、转发数和回复数均最高。
• 分类任务表明，人们对新闻推文的回应具有主题依赖性，表明不同主题下存在独特的话语与情感模式。
• LDA 模型需要仔细调整主题数量（K）以避免真实主题的合并或碎片化，而 FastText + K-means 对此类问题更具鲁棒性。
• 本研究证实，哥伦比亚和平条约是数据集中社会影响最深远的事件，在所有参与度指标上均表现出可测量的公众参与。