[논문 리뷰] On the use of artificial intelligence in financial regulations and the impact on financial stability

Jón Danı́elsson, Andreas Uthemann|arXiv (Cornell University)|2023. 10. 17.

Insurance and Financial Risk Management인용 수 4

한 줄 요약

이 논문은 인공지능(AI)이 목적의 부조화, 데이터 제한, 체계적 위기의 독특함으로 인해 금융 안정성을 위협할 수 있는 방식을 분석하며, 민간 부문의 금융 규제에서 AI를 사용할 때 평가할 수 있는 여섯 가지 기준을 제안한다. AI는 마이크로프루덴셜 규제에서는 향상되지만, 희귀하고 복잡한 위기와 투명하지 않은 의사결정 과정으로 인해 매크로프루덴셜 정책 적용 시 높은 위험이 있음을 주장하며, 체계적 불안정성을 막기 위해 신중하고 투명한 배치와 인간의 감시가 필요하다고 촉구한다.

ABSTRACT

Artificial intelligence (AI) can undermine financial stability because of malicious use, misinformation, misalignment, and the AI analytics market structure. The low frequency and uniqueness of financial crises, coupled with mutable and unclear objectives, frustrate machine learning. Even if the authorities prefer a conservative approach to AI adoption, it will likely become widely used by stealth, taking over increasingly high-level functions driven by significant cost efficiencies and superior performance. We propose six criteria for judging the suitability of AI.

연구 동기 및 목표

• AI 도입이 효율성 향상에도 불구하고 체계적 안정성에 악영향을 줄 수 있는 방식을 분석하는 것.
• 데이터 부족, 위기의 독특함, 목적의 부조화 등의 핵심 경제적·기술적 과제가 매크로프루덴셜 정책에서 AI의 효과성에 제한을 둔다는 것을 규명하는 것.
• 민간 부문이 금융 규제 및 위기 해결에 AI를 사용할 때의 적합성을 평가하기 위한 여섯 가지 평가 기준을 제안하는 것.
• 데이터가 부족하고 결과가 매우 불확실한 체계적 위기 해결 과정에서 AI 기반 의사결정의 위험을 검토하는 것.
• 금융기관에서 AI를 '암묵적'으로 도입할 경우, 규제 감시를 빛보다 빠르게 진행시켜 체계적 취약성을 증가시킬 수 있다는 위험을 부각하는 것.

제안 방법

• 고주기 마이크로프루덴셜에서 희귀하고 복잡한 매크로프루덴셜 응용까지 금융 규제 과업 전반에 걸쳐 AI 적용 가능성을 평가하기 위해 스펙트럼 프레임워크를 사용한다.
• 특히 위기 상황에서의 불확실성 하에서 AI 의사결정을 모델링하기 위해 강화학습 및 딥러닝 개념을 적용한다.
• 변환기, 확산 모델, GAN 등 생성형 AI 모델을 활용해 금융 시장 시나리오를 시뮬레이션하고 규제 정책의 스트레스 테스트를 수행한다.
• 중앙은행 규칙집과 경제 문헌 등의 전문 데이터셋을 사용해 기초 모델을 금융 환경에 맞게 적응시키기 위해 전이학습을 제안한다.
• 금융 전문가의 피드백을 활용한 인간과 함께하는 강화학습을 통해 AI 에이전트의 보상 해킹과 목적 부조화 위험을 분석한다.
• 대표성 없거나 완전하지 않거나 일관되지 않게 측정된 금융 데이터가 AI 학습 및 의사결정 품질에 미치는 영향을 평가한다.

실험 결과

연구 질문

• RQ1 체계적 금융 위기가 희귀하고 유일무이한 특성을 지닌다는 점이 역사적 데이터로 학습된 AI 모델의 신뢰성에 어떤 도전을 주는가?
• RQ2 AI 목적의 부조화나 보상 해킹이 위기 해결 과정에서 금융 안정성을 어떻게 악화시킬 수 있는가?
• RQ3 마이크로프루덴셜 규제에 비해 매크로프루덴셜 규제에서 AI를 효과적으로 활용하는 데 있어 핵심적인 기술적·경제적 장벽은 무엇인가?
• RQ4 민간 금융기관에서 AI를 '암묵적'으로 도입함으로써 규제 감시와 체계적 안정성에 어떤 위협이 발생하는가?
• RQ5 생성형 AI 모델이 스트레스 테스트 및 정책 평가를 위해 현실적인 금융 시장 시나리오를 얼마나 잘 시뮬레이션할 수 있는가?

주요 결과

• AI는 체계적 위기 데이터가 부족하고 체계적 사건이 고유하고 반복되지 않는 특성으로 인해 매크로프루덴셜 규제에 사용될 경우 금융 안정성에 중대한 위협이 된다.
• 일상적인 과업에서 높은 성능을 보일 수는 있지만, '직업 생애에 한 번뿐인' 사건인 체계적 위기에서는 의사결정의 투명성 부족과 모델의 취약성이 체계적 위험을 증가시킨다.
• 민간 부문의 AI 도입은 비용 효율성과 성능 향상에 의해 주도되며, 규제 당국이 직접적인 AI 사용을 거부하더라도 규제 통제를 약화시킬 가능성이 높다.
• 변환기와 확산 모델과 같은 생성형 AI 모델은 스트레스 테스트에 유용한 금융 시장 시나리오를 시뮬레이션할 수 있지만, 그 신뢰성은 훈련 데이터의 질과 대표성에 달려 있다.
• 기초 모델을 금융 규칙집과 전문 지식에 맞게 전이학습 및 최적화할 수는 있지만, 목적의 부조화 문제를 완전히 제거하지는 못한다.
• 모델이 투명하지 않을 경우, 조언을 제공하는 AI와 자율적으로 결정을 내리는 AI 사이의 경계가 흐려지며, 이는 위기 해결 과정에서 감지되지 않은 오류 발생 위험을 높인다.