[论文解读] Multilingual Clustering of Streaming News

Sebastião Miranda, Artūrs Znotiņš+2 more|arXiv (Cornell University)|Sep 3, 2018

Complex Network Analysis Techniques参考文献 17被引用 4

一句话总结

本文提出了一种在线多语言聚类系统，通过动态中心点更新和跨语言嵌入对齐，将流式新闻文章聚类为单语和跨语言故事簇。该系统利用以英语为参考的枢纽语言策略，在英语、西班牙语和德语的多语言新闻流上实现了最先进的F1分数84.0。

ABSTRACT

Clustering news across languages enables efficient media monitoring by aggregating articles from multilingual sources into coherent stories. Doing so in an online setting allows scalable processing of massive news streams. To this end, we describe a novel method for clustering an incoming stream of multilingual documents into monolingual and crosslingual story clusters. Unlike typical clustering approaches that consider a small and known number of labels, we tackle the problem of discovering an ever growing number of cluster labels in an online fashion, using real news datasets in multiple languages. Our method is simple to implement, computationally efficient and produces state-of-the-art results on datasets in German, English and Spanish.

研究动机与目标

• 实现实时、可扩展的多语言新闻流聚类，形成连贯的故事簇。
• 解决在多种语言中以在线方式发现不断增长的故事簇数量的挑战。
• 通过维护独立的单语中心点并利用跨语言相似性进行关联，实现单语与跨语言聚类的融合。
• 通过使用英语作为枢纽语言进行跨语言对齐，提升聚类性能。
• 开发一种支持媒体监控的系统，实现多语言新闻故事的高效搜索、可视化与探索。

提出的方法

• 系统在语言特定的词袋空间中维护单语聚类中心点，在维度为$k_2$的共享多语言嵌入空间中维护跨语言聚类中心点。
• 使用预训练的多语言句子嵌入将每个传入文档嵌入到单语和跨语言向量空间中。
• 通过基于中心点的方法和动态阈值进行在线单语聚类，以合并或创建新簇。
• 通过在跨语言嵌入空间中计算不同语言间单语簇之间的相似度得分，实现跨语言聚类。
• 采用枢纽语言策略，所有跨语言簇决策均相对于英语簇进行，从而提升对齐质量。
• 系统支持通过新文档到达后重新评估相似度得分，对过去聚类决策进行在线修正。

实验结果

研究问题

• RQ1 在线聚类系统是否能有效在不预先知晓簇数量的情况下，将多语言新闻文章聚类为连贯的故事簇？
• RQ2 在使用共享跨语言嵌入的情况下，与单语基线相比，在线多语言聚类的性能如何？
• RQ3 与在所有语言对上使用全局阈值相比，使用英语作为枢纽语言是否能提升跨语言聚类的准确性？
• RQ4 动态中心点更新和基于相似度的合并在持续数据流中在多大程度上能维持簇的连贯性？
• RQ5 在流式环境中，单语与跨语言聚类阶段的整合在多大程度上影响整体聚类质量？

主要发现

• 所提出的系统在英语、西班牙语和德语新闻流的跨语言聚类上实现了最先进的F1分数84.0。
• 使用英语作为枢纽语言进行跨语言相似性计算，相比在所有语言对上使用全局阈值，结果显著更优。
• 对跨语言距离使用全局阈值无法找到普遍有效的阈值，表明不同语言对之间的嵌入相似性存在差异。
• 系统在保持高单语聚类性能的同时，实现了有效的跨语言关联，与单语结果相比，F1分数仅出现轻微下降。
• 采用两阶段聚类方法——先单语聚类，再进行跨语言关联——降低了跨语言匹配的复杂度，提升了可扩展性。
• 该方法支持对过去聚类决策的在线修正，能够实时稳健地适应不断演变的新闻事件。