[論文レビュー] On the use of artificial intelligence in financial regulations and the impact on financial stability

Jón Danı́elsson, Andreas Uthemann|arXiv (Cornell University)|Oct 17, 2023

Insurance and Financial Risk Management被引用数 4

ひとこと要約

この論文は、対立する目的、データ制限、システミック危機の独自性を通じて人工知能（AI）が金融安定性を脅かす方法を検討し、民間部門における金融規制におけるAIの使用を評価するための6つの基準を提案する。AIはマイクロプリューデンシャル規制では効果的であるが、希少で複雑な危機と透徹のない意思決定のため、マクロプリューデンシャル政策への応用は高リスクであると主張し、システム全体の不安定化を防ぐために、慎重で透明性のある導入と人的監視を求める。

ABSTRACT

Artificial intelligence (AI) can undermine financial stability because of malicious use, misinformation, misalignment, and the AI analytics market structure. The low frequency and uniqueness of financial crises, coupled with mutable and unclear objectives, frustrate machine learning. Even if the authorities prefer a conservative approach to AI adoption, it will likely become widely used by stealth, taking over increasingly high-level functions driven by significant cost efficiencies and superior performance. We propose six criteria for judging the suitability of AI.

研究の動機と目的

• 金融規制におけるAIの導入が、効率性の向上にもかかわらず、システム全体の安定性を損なう可能性があるかを分析すること。
• データ不足、危機の独自性、目的の不一致といった、マクロプリューデンシャル規制におけるAIの有効性を制限する主な経済的・技術的課題を特定すること。
• 民間部門による金融規制および危機解決におけるAI使用の適切さを評価するための6つの評価基準を提案すること。
• データが乏しく、結果の不確実性が高いシステム的危機解決におけるAI主導の意思決定のリスクを検討すること。
• 金融機関が監視を遅らせ、システム全体の脆弱性を高める可能性がある、'ステルス的'なAI導入の危険性を強調すること。

提案手法

• 高頻度のマイクロプリューデンシャルから希少で複雑なマクロプリューデンシャル応用まで、金融規制タスクにおけるAI適用性を評価するスケールフレームワークを用いる。
• 特に危機シナリオにおける不確実性下でのAI意思決定をモデル化するために、強化学習およびディープラーニングの概念を適用する。
• 変換器、拡散モデル、GANsなどの生成AIモデルを、金融市場シナリオのシミュレーションおよび規制政策のストレステストに用いる。
• 中央銀行のルールブックや経済学文献などの専門データセットを用いて、基盤モデルを金融文脈に適応させるためのトランスファー学習を提案する。
• 金融専門家からの人間フィードバックを用いた強化学習を通じて、報酬ハッキングや目的の不一致によるAIエージェントのリスクを分析する。
• 代表的でない、不完全または一貫性のない測定の金融データがAIの学習および意思決定の質に与える影響を評価する。

実験結果

リサーチクエスチョン

• RQ1 システミック金融危機の希少性と独自性が、歴史的データに基づいて訓練されたAIモデルの信頼性にどのような挑戦をもたらすか。
• RQ2 目的の不一致や報酬ハッキングが、危機解決の過程で金融安定性を損なうメカニズムは何か。
• RQ3 マイクロプリューデンシャル規制と比較して、マクロプリューデンシャル規制におけるAIの有効な活用を阻害する主な技術的・経済的障壁は何か。
• RQ4 民間金融機関によるAIの'ステルス的'な導入が、監査監視およびシステム全体の安定性にどのような脅威をもたらすか。
• RQ5 生成AIモデルが、ストレステストおよび政策評価のための現実的で信頼できる金融市場シナリオをどの程度シミュレートできるか。

主な発見

• AIは、危機データの不足とシステミックイベントの独自性・繰り返しのない性質のため、マクロプリューデンシャル規制に用いられる場合、金融安定性に対する顕著なリスクをもたらす。
• 日常的タスクでは高いパフォーマンスを発揮するが、意思決定の不透明性とモデルの脆さが高まるため、'人生に一度の'イベント、たとえばシステミック危機では、AIは困難をきたす。
• 民間部門におけるAIの導入は、コスト効率とパフォーマンスの向上に駆られて、おそらくステルス的に行われる。その結果、規制当局が直接的なAI使用を拒んでも、監査制御が損なわれる。
• 変換器や拡散モデルなどの生成AIモデルは、ストレステストに役立つ金融シナリオをシミュレートできるが、その信頼性は訓練データの質と代表性に依存する。
• 金融ルールブックや専門知識に基づく基盤モデルのトランスファー学習およびファインチューニングは、AIの関連性を高められるが、目的の不一致のリスクを完全に排除はしない。
• モデルが不透明な場合、AIが助言を提供するのと自主的決定を下すのとの区別が曖昧になり、危機解決における検出不能な誤りのリスクが高まる。