[논문 리뷰] Towards Self-Regulating AI: Challenges and Opportunities of AI Model Governance in Financial Services

Eren Kurshan, Hongda Shen외 1명|arXiv (Cornell University)|2020. 10. 09.

Blockchain Technology Applications and Security참고 문헌 18인용 수 27

한 줄 요약

이 논문은 금융 서비스 분야의 AI 모델 거버넌스에서 자율 규제를 향상시키기 위해 시스템 수준의 모듈러 프레임워크를 제안한다. 자동화, 지속적인 모니터링 및 런타임 완화를 통합함으로써 기존의 수동적이고 레거시적인 거버넌스 프로세스의 한계를 극복한다. 이는 데이터 중심 및 행동 중심의 설계를 통해 AI 라이프사이클 전반에서 더 높은 내구성, 준수성 및 리스크 관리 능력을 향상시킨다.

ABSTRACT

AI systems have found a wide range of application areas in financial services. Their involvement in broader and increasingly critical decisions has escalated the need for compliance and effective model governance. Current governance practices have evolved from more traditional financial applications and modeling frameworks. They often struggle with the fundamental differences in AI characteristics such as uncertainty in the assumptions, and the lack of explicit programming. AI model governance frequently involves complex review flows and relies heavily on manual steps. As a result, it faces serious challenges in effectiveness, cost, complexity, and speed. Furthermore, the unprecedented rate of growth in the AI model complexity raises questions on the sustainability of the current practices. This paper focuses on the challenges of AI model governance in the financial services industry. As a part of the outlook, we present a system-level framework towards increased self-regulation for robustness and compliance. This approach aims to enable potential solution opportunities through increased automation and the integration of monitoring, management, and mitigation capabilities. The proposed framework also provides model governance and risk management improved capabilities to manage model risk during deployment.

연구 동기 및 목표

• 금융 서비스 분야의 AI 모델 거버넌스에서 발생하는 핵심 과제를 식별하고 해결하기 위해.
• 자동화 및 자율 규제를 향상시키는 시스템 수준의 프레임워크를 제안하기 위해.
• AI 모델 전반에 걸쳐 리스크 정책의 지속적인 모니터링, 런타임 완화 및 확장 가능한 구현을 가능하게 하기 위해.
• 모델 개발 라이프사이클의 초기 단계에서 거버넌스 기능을 통합할 수 있도록 지원하기 위해.
• 모듈러하고 구성 가능한 구성 요소를 통해 기반을 마련하여 모델 리스크 관리의 향상을 위한 기반을 제공하기 위해.

제안 방법

• AI 라이프사이클 전반에 걸쳐 거버넌스 기능을 통합하는 모듈러하고 시스템 수준의 프레임워크를 제안한다.
• 일관된 구현을 위한 거버넌스 모듈 템플릿 및 아키텍처 요구사항을 도입한다.
• 컨트롤러 아키텍처를 통해 런타임 모니터링 및 자동화된 완화를 가능하게 한다.
• 사전 배포, 배포, 배포 후 단계에서 거버넌스 도구의 통합을 지원한다.
• 단순히 파라미터 수준의 검토에 의존하는 것과는 달리, 데이터 및 행동 중심의 분석을 활용한다.
• 플랫폼에 종속되지 않으며 개발 및 운영 환경 전반에서 확장 가능한 아키텍처로 설계된다.

실험 결과

연구 질문

• RQ1 금융 서비스 분야의 AI 모델 거버넌스는 수동적이고 순차적인 검토 프로세스를 초월해 어떻게 진화할 수 있는가?
• RQ2 AI 거버넌스에서 증가한 자동화 및 자율 규제를 가능하게 하는 시스템 수준의 아키텍처 구성 요소는 무엇인가?
• RQ3 지속적인 모니터링 및 런타임 완화는 배포 중 모델 리스크 관리에 어떻게 기여하는가?
• RQ4 표준화된 거버넌스 모듈 템플릿은 다양한 AI 모델 전반에서 준수성을 어떻게 확장하는가?
• RQ5 모델 개발 라이프사이클의 초기 단계에서 거버넌스를 통합하면 내구성을 어떻게 향상시킬 수 있는가?

주요 결과

• 제안된 프레임워크는 지속적인 모니터링 및 런타임 완화를 가능하게 하여, 거버넌스를 정적인 사전 배포 검토에서 동적인 시스템 수준의 감시로 전환시킨다.
• 모듈러 거버넌스 구성 요소는 AI 모델 전반에 걸쳐 리스크 정책 및 규제 지침의 스케일링 및 일관성 있는 구현을 가능하게 한다.
• 모니터링 및 완화 기능의 통합은 특히 패닉 기간과 같은 높은 불확실성 시기 동안 모델의 내구성을 향상시킨다.
• 기존의 파라미터 수준 검증을 넘어서 실시간 행동 기반으로 강건성 테스트를 맞춤형으로 구성할 수 있도록 한다.
• 개발 라이프사이클의 초기 단계에 거버넌스를 통합함으로써 종단 간 리스크 관리 능력이 향상되고 수동적이고 복잡도가 높은 검토에 대한 의존도가 감소한다.
• 시스템 수준의 접근 방식은 더 높은 민첩성, 비용 효율성 및 지속 가능성으로 점점 더 복잡해지는 AI 모델을 거버넌스하는 데 기여한다.