[논문 리뷰] Artificial intelligence and cybersecurity in banking sector: opportunities and risks

Ana Kovačević, Sonja D. Radenković외 1명|arXiv (Cornell University)|2024. 11. 28.

Blockchain Technology Applications and Security인용 수 4

한 줄 요약

이 논문은 금융권에서 인공지능(AI)과 기계학습(ML)의 双중적 영향을 분석하며, 사기 탐지 및 자동화 분야에서의 전환적 기회와 동시에 악성 공격 및 데이터 풀기와 같은 심각한 사이버보안 위험을 강조한다. 이는 고위험 금융 환경에서 안전하게 구현되기 위해 ML 모델에 내재된 보안, 신뢰성, 회복력 및 강건성을 고려하여 설계할 것을 주장한다.

ABSTRACT

The rapid advancements in artificial intelligence (AI) have presented new opportunities for enhancing efficiency and economic competitiveness across various industries, espcially in banking. Machine learning (ML), as a subset of artificial intelligence, enables systems to adapt and learn from vast datasets, revolutionizing decision-making processes, fraud detection, and customer service automation. However, these innovations also introduce new challenges, particularly in the realm of cybersecurity. Adversarial attacks, such as data poisoning and evasion attacks, represent critical threats to machine learning models, exploiting vulnerabilities to manipulate outcomes or compromise sensitive information. Furthermore, this study highlights the dual-use nature of AI tools, which can be used by malicious users. To address these challenges, the paper emphasizes the importance of developing machine learning models with key characteristics such as security, trust, resilience and robustness. These features are essential to mitigating risks and ensuring the secure deployment of AI technologies in banking sectors, where the protection of financial data is paramount. The findings underscore the urgent need for enhanced cybersecurity frameworks and continuous improvements in defensive mechanisms. By exploring both opportunities and risks, this paper aims to guide the responsible integration of AI in the banking sector, paving the way for innovation while safeguarding against emerging threats.

연구 동기 및 목표

• 금융권에서 운영 효율성 향상과 의사결정 향상에 기여하는 AI 및 ML의 전환적 잠재력을 분석하기.
• AI 도입과 관련된 신규 사이버보안 위협, 특히 데이터 풀기 및 회피 공격 등 악성 공격 유형을 특정하기.
• AI 도구의 이중용도 성격을 검토하며, 보안을 위해 개발된 능력이 악성 행위자에 의해 악용될 수 있는 방식을 분석하기.
• 금융 분야의 AI 모델이 내재된 보안, 신뢰성, 회복력 및 강건성을 가져야 한다는 점을 강조하기.
• 금융기관에서의 AI 통합을 책임감 있게 이끌기 위해, 규제된 금융 환경에서의 안전한 AI 구현을 위한 프레임워크 제안하기.

제안 방법

• 사기 탐지, 고객 서비스 자동화, 의사결정 시스템에 중점을 두어 금융 분야에서의 AI 및 ML 응용 사례에 대한 체계적 분석.
• ML 모델을 대상으로 하는 주요 사이버보안 위협의 식별 및 분류, 예를 들어 데이터 풀기 및 회피 공격 포함.
• AI 도구의 이중용도 잠재력 평가, 동일한 기술이 방어와 해킹 공격 모두에 활용될 수 있음을 분석.
• 보안, 신뢰성, 회복력 및 강건성과 같은 핵심 시스템 특성으로서의 설계 원칙 제안.
• 규제된 금융 환경에서의 AI 배포를 위한 위험 완화 프레임워크에 이러한 원칙 통합하기.
• 사례 기반 추론과 위협 모델링을 활용하여 금융 시스템에서의 AI 취약성 실질적 영향 평가하기.

실험 결과

연구 질문

• RQ1 AI 및 기계학습은 금융권에서 효율성 향상과 경쟁력 강화에 어떻게 기여하는가?
• RQ2 금융기관에서 ML 모델을 배포함에 있어 주로 발생하는 사이버보안 위험은 무엇인가?
• RQ3 어떤 방식으로 악성 행위자가 AI 도구를 악용하여 금융 시스템을 손상시킬 수 있는가?
• RQ4 ML 모델을 금융 분야에서 안전하게 보호하기 위해 필수적인 시스템 수준 특성(예: 강건성, 신뢰성, 회복력)은 무엇인가?
• RQ5 금융기관은 어떻게 새로운 사이버 위협을 완화하면서 AI를 책임감 있게 구현할 수 있는가?

주요 결과

• AI 및 ML은 대규모 거래 데이터의 실시간 분석을 가능하게 하여 금융권에서 사기 탐지 및 고객 서비스 자동화를 크게 향상시킨다.
• 데이터 풀기 및 회피 공격과 같은 악성 공격은 ML 모델의 무결성에 심각한 위협을 가하며, 잘못된 결정이나 데이터 유출로 이어질 수 있다.
• AI 도구의 이중용도 성격은 보안을 위해 개발된 기술이 악성 행위자에 의해 시스템 취약점을 악용하는 데도 악용될 수 있음을 의미한다.
• 은행 분야의 ML 모델는 조작에 저항하고 신뢰성을 유지하기 위해 내재된 보안, 신뢰성, 회복력 및 강건성을 갖추어야 한다.
• 본 연구는 AI 기반 금융 시스템에서의 사이버보안 프레임워크 강화와 방어 메커니즘의 지속적 개선이 급박하게 필요하다고 강조한다.
• 사전 설계 및 거버넌스가 없이 AI 도입이 진행될 경우, 데이터 기밀성과 시스템 무결성이 손상될 위험이 있다.