[論文レビュー] Predicting Companies' ESG Ratings from News Articles Using Multivariate Timeseries Analysis

Tanja Aue, Adam Jatowt+1 more|arXiv (Cornell University)|Nov 13, 2022

Environmental Sustainability in Business被引用数 6

ひとこと要約

本稿では、BERTベースの分類、センチメント分析、トピッククラスタリングを経て、深層学習（CNNおよびトランスフォーマー）を用いた多変量時系列モデルを提案する。このモデルは、Asset4のESG評価に対して平均絶対誤差11.97を達成し、最先端の性能を示しており、小規模市場時価総額の企業においても高い精度を発揮する。

ABSTRACT

Environmental, social and governance (ESG) engagement of companies moved into the focus of public attention over recent years. With the requirements of compulsory reporting being implemented and investors incorporating sustainability in their investment decisions, the demand for transparent and reliable ESG ratings is increasing. However, automatic approaches for forecasting ESG ratings have been quite scarce despite the increasing importance of the topic. In this paper, we build a model to predict ESG ratings from news articles using the combination of multivariate timeseries construction and deep learning techniques. A news dataset for about 3,000 US companies together with their ratings is also created and released for training. Through the experimental evaluation we find out that our approach provides accurate results outperforming the state-of-the-art, and can be used in practice to support a manual determination or analysis of ESG ratings.

研究の動機と目的

• 人間の判断を一切用いずに、自動的かつスケーラブルなESG評価予測手法を開発すること。これによりコスト削減と透明性の向上を図る。
• 予測モデルの学習に適した大規模かつ多様なESG関連ニュースデータセットの不足に取り組む。
• 複数の自然言語処理（NLP）信号（ESG関連性、センチメント、意味的トピック）を多変量時系列フレームワークに統合することで、ESG評価予測の精度を向上させること。
• 特にCNNおよびトランスフォーマーのアーキテクチャを用いた深層学習モデルが、ニュースデータからのESG評価予測において、単純なモデルを上回る効果を示すかを評価すること。
• 本研究では、3.7百万件の記事を含む大規模なESGニュースデータセット（2018年～2020年、米国上場3,000社分）を公開し、ESG研究分野での活用を促進する。

提案手法

• GDELTから得た3.7百万件のニュース記事を処理し、2018年から2020年までの3,000社の米国上場企業をカバーする多変量時系列を構築した。
• 2つのBERTモデルを用いて記事のESG関連性とセンチメントを分類し、2つの別々の時系列を生成した。
• トピックモデリングを用いて記事を6つの意味的クラスタにグループ化し、6つの追加の時系列（テーマ別ESG信号）を生成した。
• 関連性、センチメント、および6つの意味的クラスタの合計9つの入力時系列を統合し、深層学習モデルの多変量入力として利用した。
• 標準的および深層CNN、およびCNNとトランスフォーマーを組み合わせたアーキテクチャを用い、時系列回帰のための複数の深層学習モデルを訓練・比較した。
• Asset4のESG評価を正例として、平均絶対誤差（MAE）および平均二乗誤差（MSE）を用いてモデルを評価した。

実験結果

リサーチクエスチョン

• RQ1 人間の判断を一切用いずに、多変量時系列および深層学習を用いてニュース記事からESG評価を正確に予測できるか？
• RQ2 ESG関連性、センチメント、意味的トピックといった異なるNLP信号が、個別および統合的にESG評価予測にどのように寄与するか？
• RQ3 CNNやトランスフォーマーといった深層学習モデルが、ニュースデータからのESG評価予測において、単純なモデルを上回る性能を示すか？
• RQ4 異なる時価総額クラスの企業において、モデルの性能はどのように変動するか？
• RQ5 入力信号の多様性および特徴工学の影響が、ESG評価予測モデルの予測精度に与える影響は何か？

主な発見

• 深層CNNモデルが、Asset4のESG評価に対して最も低い平均絶対誤差（11.97）を達成し、すべてのベースラインを上回った。
• 本モデルは、最高のベースライン（Sokolovら、2021）よりもMAEで14.39%の改善を示し、最先端の性能を実証した。
• 小規模市場時価総額の企業では顕著に高い性能を示し（MAE = 10.28）、大規模市場時価総額の企業（MAE = 15.42）よりも精度が高かった。
• アブレーションスタディの結果、関連性、センチメント、意味的トピックの3つの信号タイプすべてが予測精度を向上させたが、意味的クラスタリングが個別に最も大きな影響を示した。
• 9つの入力時系列（X all）を統合した組み合わせが最も優れた結果をもたらし、マルチモーダル信号統合の価値を裏付けた。
• CNN + ディープトランスフォーマーのモデルは、小規模市場時価総額企業でMAE 10.86、中規模市場時価総額企業でMAE 12.51を達成し、時価総額の異なる企業にわたり優れた汎化性能を示した。