[论文解读] Detect & Describe: Deep learning of bank stress in the news

Samuel Rönnqvist, Peter Sarlin|arXiv (Cornell University)|Jul 25, 2015

Credit Risk and Financial Regulations参考文献 17被引用 6

一句话总结

本文提出了一种深度学习框架，通过将非结构化文本与243个银行困境事件的稀疏集合关联，检测并描述新闻文章中的银行压力。利用分布式语义表示和神经网络，该模型在银行和欧洲层面生成预测性压力指数，同时提取可解释的文本摘录以描述压力的驱动因素，为传统数据驱动模型提供超越性的洞见。

ABSTRACT

News is a pertinent source of information on financial risks and stress factors, which nevertheless is challenging to harness due to the sparse and unstructured nature of natural text. We propose an approach based on distributional semantics and deep learning with neural networks to model and link text to a scarce set of bank distress events. Through unsupervised training, we learn semantic vector representations of news articles as predictors of distress events. The predictive model that we learn can signal coinciding stress with an aggregated index at bank or European level, while crucially allowing for automatic extraction of text descriptions of the events, based on passages with high stress levels. The method offers insight that models based on other types of data cannot provide, while offering a general means for interpreting this type of semantic-predictive model. We model bank distress with data on 243 events and 6.6M news articles for 101 large European banks.

研究动机与目标

• 开发一种基于数据的方法，利用新闻文本检测和描述银行压力，这些文本通常为非结构化且稀疏。
• 克服依赖手工构建词典且缺乏可解释性的基于情感的方法的局限性。
• 构建一个将新闻内容与实际困境事件关联的预测模型，实现定量压力度量与定性解释的结合。
• 为金融风险监控中语义-预测模型的解释提供可泛化的框架。
• 通过101家欧洲银行的660万篇新闻文章和243起困境事件，证明该方法的有效性。

提出的方法

• 该方法使用分布语义学，从新闻文章中学习词语和文档的密集向量表示。
• 训练深度神经网络以预测新闻文章是否与银行困境事件同时发生，利用文本与事件数据在时间与实体层面的对齐。
• 语义表示学习部分为无监督，仅在二元事件共现任务上进行有监督训练。
• 提取具有高预测权重的文本摘录，以描述高压力指数值的驱动因素，从而实现可解释性。
• 在时间维度上为单个银行计算压力指数，并在欧洲层面聚合，以追踪系统性风险模式。
• 该方法利用正则表达式识别银行提及，并基于时间接近度（±1个月）将之与事件数据交叉引用，排除模糊情况。

实验结果

研究问题

• RQ1 仅使用事件级别监督，深度学习模型能否有效检测非结构化新闻文本中与银行困境事件的共现？
• RQ2 如何学习并利用新闻文本的语义表示来预测银行困境事件？
• RQ3 该模型在多大程度上能生成可解释的、描述性的摘录，以解释高压力指数值的驱动因素？
• RQ4 与传统基于情感或词典驱动的方法相比，该模型在性能和可解释性方面表现如何？
• RQ5 通过重新定义参考事件，该框架能否推广至其他金融现象？

主要发现

• 该模型成功检测到与困境事件共现的银行压力，其预测指数与实际困境事件高度相关，尤其在重大金融危机期间。
• 福伊斯特银行（Fortis Bank）的压力指数从2008年底至2010年初持续升高，与政府干预和国家援助措施相吻合。
• 从高压力时期提取的排名靠前的文本摘录描述了关键事件，如资产出售、政府救助以及BNP Paribas对原福伊斯特资产的整合。
• 该模型识别出关于国家援助和国有化的讨论在描述性摘录中占主导地位，反映出事件数据的本质特征。
• 该方法通过高权重段落实现对压力事件的自动、可解释的描述，提供了纯数值模型无法获得的洞见。
• 该方法表明，结合分布式语义的深度学习能够有效将稀疏的非结构化文本与罕见但高影响的金融事件关联起来。