[论文解读] On the use of artificial intelligence in financial regulations and the impact on financial stability

Jón Danı́elsson, Andreas Uthemann|arXiv (Cornell University)|Oct 17, 2023

Insurance and Financial Risk Management被引用 4

一句话总结

本文探讨了人工智能（AI）如何通过目标错配、数据局限性和系统性危机的独特性威胁金融稳定，提出了六个标准以评估私营部门在金融监管中使用AI的适当性。文章认为，尽管AI在微观审慎监管中有所增强，但其在宏观审慎政策中的应用风险较高，原因在于危机发生频率低、情况复杂且决策过程不透明，因此呼吁谨慎、透明地部署AI，并辅以人工监督，以防止系统性不稳定。

ABSTRACT

Artificial intelligence (AI) can undermine financial stability because of malicious use, misinformation, misalignment, and the AI analytics market structure. The low frequency and uniqueness of financial crises, coupled with mutable and unclear objectives, frustrate machine learning. Even if the authorities prefer a conservative approach to AI adoption, it will likely become widely used by stealth, taking over increasingly high-level functions driven by significant cost efficiencies and superior performance. We propose six criteria for judging the suitability of AI.

研究动机与目标

• 分析金融监管中采用AI可能在提升效率的同时，反而损害系统性稳定。
• 识别关键的经济与技术挑战，如数据稀缺、危机独特性以及目标错配，这些因素限制了AI在宏观审慎政策中的有效性。
• 提出六个评估标准，用于判断私营部门在金融监管与危机应对中使用AI的适宜性。
• 研究AI驱动决策在系统性危机应对中的风险，尤其是在数据稀疏且结果高度不确定的背景下。
• 强调金融机构‘隐蔽式’采用AI的危险性，这种做法可能超越监管监督速度，加剧系统脆弱性。

提出的方法

• 使用谱系框架评估AI在金融监管任务中的适用性，涵盖高频微观审慎到罕见而复杂的宏观审慎应用。
• 应用强化学习与深度学习的概念，建模AI在不确定性下的决策过程，特别是在危机情景中。
• 评估生成式AI模型（如变压器、扩散模型和生成对抗网络）在模拟金融市场情景和压力测试监管政策方面的应用。
• 提出迁移学习作为方法，通过使用专门数据集（包括央行规则手册和经济文献）将基础模型适配至金融场景。
• 通过金融专家提供的人类反馈进行强化学习，分析奖励欺骗与目标错配在AI代理中的风险。
• 评估非代表性、不完整或测量不一致的金融数据对AI训练与决策质量的影响。

实验结果

研究问题

• RQ1 系统性金融危机的低频性与独特性如何挑战基于历史数据训练的AI模型的可靠性？
• RQ2 AI目标错配或奖励欺骗在危机应对中可能以何种方式损害金融稳定？
• RQ3 与微观审慎监管相比，AI在宏观审慎监管中有效应用面临哪些关键技术与经济障碍？
• RQ4 私营金融机构对AI的‘隐蔽式’采用如何威胁监管监督与系统性稳定？
• RQ5 生成式AI模型在多大程度上能够模拟现实的金融市场情景，以支持压力测试与政策评估？

主要发现

• 当AI被用于宏观审慎监管时，会对金融稳定构成重大风险，原因在于危机数据稀缺以及系统性事件的唯一性与不可重复性。
• 即使在常规任务中表现优异，AI在‘一生仅一次’的事件（如系统性危机）中仍表现乏力，此时决策过程的不透明性与模型脆弱性会加剧系统性风险。
• 私营部门对AI的采用极有可能以隐蔽方式推进，受成本效率与性能提升驱动，即便监管机构抵制直接使用AI，也可能削弱监管控制。
• 生成式AI模型（如变压器与扩散模型）可模拟对压力测试与政策评估有用的金融市场情景，但其可靠性取决于训练数据的质量与代表性。
• 通过金融规则手册与专家知识对基础模型进行迁移学习与微调可提升AI的相关性，但无法完全消除目标错配带来的风险。
• 当模型不透明时，AI提供建议与自主决策之间的界限变得模糊，增加了危机应对中未被察觉错误的风险。