[论文解读] Visual and Predictive Analytics on Singapore News: Experiments on GDELT, Wikipedia, and ^STI

Clifton Phua, Yuzhang Feng+2 more|arXiv (Cornell University)|Apr 8, 2014

Computational and Text Analysis Methods参考文献 6被引用 4

一句话总结

本文提出了一种新颖的特征工程方法，将GDELT的事件级新闻数据转化为时间序列数据集，用于预测分析，将其应用于预测新加坡海峡时报指数（^STI）。通过可视化分析和决策树方法，结果表明GDELT能够以高时间分辨率检测并预测重大事件（如2013年东南亚烟霾和小印度暴动）对市场的冲击，且与现实事件高度吻合。

ABSTRACT

The open-source Global Database of Events, Language, and Tone (GDELT) is the most comprehensive and updated Big Data source of important terms extracted from international news articles . We focus only on GDELT's Singapore events to better understand the data quality of its news articles, accuracy of its term extraction, and potential for prediction. To test news completeness and validity, we visually compared GDELT (Singapore news articles' terms from 1979 to 2013) to Wikipedia's timeline of Singaporean history. To test term extraction accuracy, we visually compared GDELT (CAMEO codes and TABARI system of extraction from Singapore news articles' text from April to December 2013) to SAS Text Miner's term and topic extraction. To perform predictive analytics, we propose a novel feature engineering method to transform row-level GDELT from articles to a user-specified temporal resolution. For example, we apply a decision tree using daily counts of feature values from GDELT to predict Singapore stock market's Straits Times Index (^STI). Of practical interest from the above results is SAS Visual Analytics' ability to highlight the various impacts of June 2013 Southeast Asian haze and December 2013 Little India riot on Singapore. Although Singapore is unique as a sovereign city-state, a leading financial centre, has strong international influence, and consists of a highly multi-cultural population, the visual and predictive analytics reported here are highly applicable to another country's GDELT data.

研究动机与目标

• 通过可视化和对比分析，评估GDELT对新加坡新闻报道的数据质量与完整性。
• 通过与人工标注数据源及SAS Text Miner对比，评估GDELT术语和事件抽取（CAMEO与TABARI）的准确性。
• 开发一种新颖的特征工程方法，将GDELT事件数据聚合为用户定义的时间分辨率，以支持预测建模。
• 基于GDELT事件特征，应用预测分析方法（使用1天滞后）通过决策树预测海峡时报指数（^STI）的走势。
• 通过可视化分析工具，展示GDELT在检测和预测现实经济与社会影响方面的实际应用价值。

提出的方法

• 提出一种特征工程算法（算法1），将GDELT事件的行级数据转换为用户指定时间分辨率（如每日）的时间聚合特征。
• 对于名义变量，为每个唯一值创建二值指示变量，并为缺失值创建单独变量，统计每个时间单位内的出现次数。
• 对于数值变量，应用分箱（等距或等频）方法，为每个分箱创建计数变量，并为缺失值创建一个单独的计数变量。
• 将工程化后的特征与^STI指数的每日收盘价（1天滞后）进行连接，构建监督学习数据集。
• 应用决策树算法，基于GDELT事件特征预测次日的^STI价格，结合时间聚合与特征工程方法。
• 使用SAS Visual Analytics进行交互式可视化探索，使用SAS Text Miner验证术语和主题抽取的准确性，与GDELT的CAMEO和TABARI输出进行对比。

实验结果

研究问题

• RQ1 在多大程度上，GDELT的新加坡新闻数据可用于理解与可视化重大历史事件？
• RQ2 与Wikipedia等真实来源及人工文本分析相比，GDELT的术语和事件抽取（CAMEO与TABARI）的准确性如何？
• RQ3 GDELT数据能否被有效转化为用于非政治性结果（如股市波动）的预测机器学习数据集？
• RQ4 在重大社会政治事件期间，哪些特定的GDELT特征最能预测海峡时报指数（^STI）的变化？
• RQ5 可视化分析工具能否有效凸显2013年东南亚烟霾与小印度暴动等事件的经济与社会影响？

主要发现

• GDELT对新加坡的新闻覆盖较为全面，但并非在所有分析目标下都完全有效，部分文章与关键事件无关。
• 与Wikipedia时间线的可视化对比确认，GDELT能够以强时间对齐度捕捉重大历史事件，包括2013年烟霾与小印度暴动。
• GDELT的CAMEO与TABARI术语抽取显示出合理准确性，但结合额外的NLP技术可进一步提升对预设事件之外信息的提取能力。
• 所提出的特征工程算法成功将GDELT的事件级数据转化为适合预测建模的每日时间序列格式。
• 在烟霾期间（2013年6月13日至27日），最具预测力的前三个特征为：ActionGeo_Fullname = Toa Payoh, Singapore 和 Geylang，表明局部新闻影响显著。
• 在小印度暴动期间（2013年12月8日至22日），最具预测力的前三个特征为：Actor1CountryCode = Pakistan，mainURL = zeenews.india.com，以及ActionGeo_CountryCode = Singapore，反映出媒体驱动的报道模式。