[论文解读] Predicting Companies' ESG Ratings from News Articles Using Multivariate Timeseries Analysis

Tanja Aue, Adam Jatowt+1 more|arXiv (Cornell University)|Nov 13, 2022

Environmental Sustainability in Business被引用 6

一句话总结

该论文提出了一种多变量时间序列模型，通过基于BERT的分类、情感分析和主题聚类，结合深度学习（CNN和Transformer），从新闻文章中预测ESG评级。该模型实现了最先进性能，对Asset4评级的平均绝对误差（MAE）为11.97，优于基线模型，且在小市值公司上的预测准确度更高。

ABSTRACT

Environmental, social and governance (ESG) engagement of companies moved into the focus of public attention over recent years. With the requirements of compulsory reporting being implemented and investors incorporating sustainability in their investment decisions, the demand for transparent and reliable ESG ratings is increasing. However, automatic approaches for forecasting ESG ratings have been quite scarce despite the increasing importance of the topic. In this paper, we build a model to predict ESG ratings from news articles using the combination of multivariate timeseries construction and deep learning techniques. A news dataset for about 3,000 US companies together with their ratings is also created and released for training. Through the experimental evaluation we find out that our approach provides accurate results outperforming the state-of-the-art, and can be used in practice to support a manual determination or analysis of ESG ratings.

研究动机与目标

• 开发一种无需人工判断的自动化、可扩展的ESG评级预测方法，降低费用并提高透明度。
• 解决适用于训练预测模型的大规模、多样化ESG新闻数据集稀缺的问题。
• 通过将多种自然语言处理信号——ESG相关性、情感倾向和语义主题——整合到多变量时间序列框架中，提升ESG评级预测的准确性。
• 评估深度学习模型（尤其是CNN和Transformer架构）在从新闻数据预测ESG评级方面的有效性。
• 公开发布一个全新的大规模ESG新闻数据集（涵盖3,000家美国公司、2018–2020年，共370万篇新闻文章），供ESG研究使用。

提出的方法

• 从GDELT中处理370万篇新闻文章，构建覆盖2018至2020年3,000家美国公司的多变量时间序列。
• 应用两个BERT模型对文章进行ESG相关性分类和情感分析，生成两个独立的时间序列。
• 使用主题建模将文章聚类为六个语义主题簇，生成六个代表主题性ESG信号的附加时间序列。
• 将全部九个输入时间序列（相关性、情感倾向及六个语义簇）整合为深度学习模型的多变量输入。
• 训练并比较多种深度学习架构，包括标准CNN、深层CNN，以及CNN与Transformer结合的模型，用于时间序列回归任务。
• 使用平均绝对误差（MAE）和均方误差（MSE）评估模型性能，以Asset4 ESG评级作为真实标签。

实验结果

研究问题

• RQ1 能否在无需人工判断的前提下，通过多变量时间序列与深度学习，从新闻文章中准确预测ESG评级？
• RQ2 不同自然语言处理信号——ESG相关性、情感倾向和语义主题——在单独和联合使用时，对ESG评级预测的贡献如何？
• RQ3 CNN和Transformer等深度学习模型是否在从新闻数据预测ESG评级方面优于简单模型？
• RQ4 模型性能在不同市值公司间是否存在差异？
• RQ5 输入信号的多样性与特征工程对ESG评级预测模型准确性的实际影响如何？

主要发现

• 深度CNN模型在Asset4 ESG评级上的平均绝对误差（MAE）最低，仅为11.97，优于所有基线模型。
• 与最佳基线模型（Sokolov et al., 2021）相比，MAE降低了14.39%，展现出最先进性能。
• 在小市值公司上的表现显著优于大市值公司（小市值MAE = 10.28，大市值MAE = 15.42），表明对小公司预测更准确。
• 消融实验表明，三种信号类型（相关性、情感倾向、语义主题）均能提升预测性能，其中语义聚类的单独影响最大。
• 所有九个输入时间序列（X all）的组合取得了最佳结果，证实了多模态信号融合的价值。
• CNN + 深层Transformer模型在小市值公司上实现MAE 10.86，在中市值公司上实现MAE 12.51，显示出在不同市值公司间的强泛化能力。