[論文レビュー] Cybersecurity of AI medical devices: risks, legislation, and challenges

Elisabetta Biasin, Erik Kamenjašević+1 more|arXiv (Cornell University)|Mar 6, 2023

Artificial Intelligence in Healthcare and Education被引用数 4

ひとこと要約

本論文は、AIを搭載した医療機器におけるサイバーセキュリティリスクを検討し、データ汚染やコード抽出などの脅威を分析するとともに、MDR、NIS 2、GDPR、およびAI法を含むEUの規制枠組みを評価し、インcidェント報告および重要インフラの定義に関する統合の課題と規制の曇りを指摘している。

ABSTRACT

Medical devices and artificial intelligence systems rapidly transform healthcare provisions. At the same time, due to their nature, AI in or as medical devices might get exposed to cyberattacks, leading to patient safety and security risks. This book chapter is divided into three parts. The first part starts by setting the scene where we explain the role of cybersecurity in healthcare. Then, we briefly define what we refer to when we talk about AI that is considered a medical device by itself or supports one. To illustrate the risks such medical devices pose, we provide three examples: the poisoning of datasets, social engineering, and data or source code extraction. In the second part, the paper provides an overview of the European Union's regulatory framework relevant for ensuring the cybersecurity of AI as or in medical devices (MDR, NIS Directive, Cybersecurity Act, GDPR, the AI Act proposal and the NIS 2 Directive proposal). Finally, the third part of the paper examines possible challenges stemming from the EU regulatory framework. In particular, we look toward the challenges deriving from the two legislative proposals and their interaction with the existing legislation concerning AI medical devices' cybersecurity. They are structured as answers to the following questions: (1) how will the AI Act interact with the MDR regarding the cybersecurity and safety requirements?; (2) how should we interpret incident notification requirements from the NIS 2 Directive proposal and MDR?; and (3) what are the consequences of the evolving term of critical infrastructures? [This is a draft chapter. The final version will be available in Research Handbook on Health, AI and the Law edited by Barry Solaiman & I. Glenn Cohen, forthcoming 2023, Edward Elgar Publishing Ltd]

研究の動機と目的

• AIを医療機器として、または医療機器に統合した場合に特有のサイバーセキュリティリスクを特定・分析すること。具体的には、データ汚染、ソーシャルエンジニアリング、およびソースコードの盗難を含む。
• MDR、NIS指令、サイバーセキュリティ法、GDPR、およびAI法を含む、AI医療機器セキュリティを規制する既存および提案中のEU規制枠組みをマッピングおよび評価すること。
• AI法とMDRの間における、安全性およびセキュリティ要件に関する相互運用性および潜在的対立を評価すること。
• NIS 2指令案およびMDRにおけるインシデント通知義務の解釈および実施方法を明確化すること。
• EU法における「重要インフラ」の定義の進化が、AI医療機器の規制に与える影響を検討すること。

提案手法

• データセット汚染、ソーシャルエンジニアリング、およびモデル重み・ソースコードの不正な抽出を含む3つの具体的な事例を通じて、AI医療機器を標的としたサイバーセキュリティ脅威を体系的に分析する。
• MDR、NIS指令、サイバーセキュリティ法、GDPR、および提案中のAI法およびNIS 2指令を含む、関連するEU法の包括的レビューおよび比較分析を行う。
• AI法とMDRの間の相互作用を評価するための法的・規制的分析を行い、特に安全性およびセキュリティ要件に関する部分に焦点を当てる。
• NIS 2指令案およびMDRにおけるインシデント通知義務の解釈的分析を行い、整合性および潜在的な重複を検討する。
• EU法における「重要インフラ」の範囲の進化を検討し、AI医療機器に与える影響を分析する。
• 規制の課題を、規制相互作用、通知義務、インフラ定義に関する3つの核心的問いへの構造的対応を通じて統合的に明らかにする。

実験結果

リサーチクエスチョン

• RQ1 AI法は、AI医療機器のセキュリティおよび安全性要件を定義・施行するにあたり、MDRとどのように相互作用するのか。
• RQ2 NIS 2指令案およびMDRにおけるインシデント通知義務は、実務上、どのように解釈され、実施されるべきか。
• RQ3 EU法における「重要インフラ」の定義の進化が、AI医療機器の規制に与える影響は何か。
• RQ4 提案中のAI法とMDR、GDPRなどの既存法との間に、規制の空白または重複は存在するか。
• RQ5 データ汚染やソースコード抽出といった新たなサイバーセキュリティ脅威は、AI医療機器の現在の規制枠組みにどのような挑戦をもたらすか。

主な発見

• AI医療機器は、データ汚染、ソーシャルエンジニアリング攻撃、およびモデル重みやソースコードの不正な抽出といった深刻なサイバーセキュリティリスクに直面している。
• MDRとAI法は、AI医療機器のセキュリティおよび安全性要件の範囲を定義するにあたり、規制の重複または対立を引き起こす可能性がある。
• NIS 2指令案およびMDRにおけるインシデント通知義務は、異なる基準および報告タイムラインのため、コンプライアンスの曇りを引き起こす可能性がある。
• EU法における「重要インフラ」の定義の進化は、AI医療機器を含む規制範囲を拡大する可能性があり、コンプライアンス義務を増大させる。
• GDPR、MDR、およびAI法の相互作用は、法的分断と規制分野間での一貫性の欠如による執行の不一致を懸念を引き起こす。
• 本論文は、EU全域で一貫性があり、実行可能で相互運用可能なAI医療機器のセキュリティ基準を確保するため、規制の明確化が急務であると結論づける。