[论文解读] Artificial intelligence and cybersecurity in banking sector: opportunities and risks

Ana Kovačević, Sonja D. Radenković+1 more|arXiv (Cornell University)|Nov 28, 2024

Blockchain Technology Applications and Security被引用 4

一句话总结

本文探讨了人工智能（AI）和机器学习（ML）在银行业中的双重影响，强调了在欺诈检测和自动化方面具有变革性机遇，同时也指出了对抗性攻击和数据 poisoning 等关键网络安全风险。文章主张设计具备内在安全性、可信度、弹性和鲁棒性的机器学习模型，以确保在高风险金融环境中的安全部署。

ABSTRACT

The rapid advancements in artificial intelligence (AI) have presented new opportunities for enhancing efficiency and economic competitiveness across various industries, espcially in banking. Machine learning (ML), as a subset of artificial intelligence, enables systems to adapt and learn from vast datasets, revolutionizing decision-making processes, fraud detection, and customer service automation. However, these innovations also introduce new challenges, particularly in the realm of cybersecurity. Adversarial attacks, such as data poisoning and evasion attacks, represent critical threats to machine learning models, exploiting vulnerabilities to manipulate outcomes or compromise sensitive information. Furthermore, this study highlights the dual-use nature of AI tools, which can be used by malicious users. To address these challenges, the paper emphasizes the importance of developing machine learning models with key characteristics such as security, trust, resilience and robustness. These features are essential to mitigating risks and ensuring the secure deployment of AI technologies in banking sectors, where the protection of financial data is paramount. The findings underscore the urgent need for enhanced cybersecurity frameworks and continuous improvements in defensive mechanisms. By exploring both opportunities and risks, this paper aims to guide the responsible integration of AI in the banking sector, paving the way for innovation while safeguarding against emerging threats.

研究动机与目标

• 分析人工智能和机器学习在提升银行业运营效率和决策能力方面的变革潜力。
• 识别与人工智能采用相关的新兴网络安全威胁，特别是数据 poisoning 和逃避攻击等对抗性攻击。
• 研究人工智能工具的双重用途特性，即本用于安全的工具也可能被恶意行为者利用。
• 强调银行业的人工智能模型必须具备内在安全性、可信度、弹性和鲁棒性，以抵御操纵。
• 通过提出金融机构中安全人工智能部署的框架，指导人工智能的负责任整合。

提出的方法

• 对银行业人工智能和机器学习应用进行系统性分析，重点关注欺诈检测、客户服务自动化和决策支持系统。
• 识别并分类针对机器学习模型的关键网络安全威胁，包括数据 poisoning 和逃避攻击。
• 评估人工智能工具的双重用途潜力，即同一技术既可用于防御也可用于网络攻击。
• 提出强调安全性、可信度、弹性和鲁棒性作为核心系统属性的机器学习模型设计原则。
• 将这些原则整合到受监管金融环境中的人工智能部署风险缓解框架中。
• 使用基于案例的推理和威胁建模，评估人工智能漏洞在银行系统中的实际影响。

实验结果

研究问题

• RQ1 人工智能和机器学习在多大程度上提升了银行业的效率和竞争力？
• RQ2 在金融机构中部署机器学习模型所关联的主要网络安全风险是什么？
• RQ3 人工智能工具在何种方式下可能被攻击者滥用以破坏银行系统？
• RQ4 在银行业，确保机器学习模型安全的关键系统级特性（如鲁棒性、可信度、弹性）有哪些？
• RQ5 金融机构如何在缓解新兴网络威胁的同时负责任地实施人工智能？

主要发现

• 人工智能和机器学习通过实现实时大规模交易数据分析，显著提升了银行的欺诈检测能力和客户服务自动化水平。
• 对抗性攻击如数据 poisoning 和逃避攻击对机器学习模型的完整性构成严重威胁，可能导致错误决策或数据泄露。
• 人工智能工具的双重用途特性意味着为安全开发的技术也可能被攻击者武器化，以利用系统漏洞。
• 银行业机器学习模型必须从设计之初就具备内在安全性、可信度、弹性和鲁棒性，以抵御操纵并保持可靠性。
• 本研究强调迫切需要加强网络安全框架，并持续改进人工智能驱动金融系统中的防御机制。
• 若缺乏主动设计和治理，银行业人工智能的采用可能危及数据机密性和系统完整性。