[論文レビュー] Adapting cybersecurity frameworks to manage frontier AI risks: A defense-in-depth approach

Shaun Ee, J.N. O'Brien+4 more|arXiv (Cornell University)|Aug 15, 2024

Information and Cyber Security被引用数 4

ひとこと要約

この論文は、NIST Cybersecurity FrameworkおよびNIST AI Risk Management Frameworkを応用することで、機能的、ライフサイクル的、脅威指向的という3つの補完的アプローチを用いて、フロントエンドAIリスクを管理するためのディフェンスインデプス戦略を提唱する。機能的アプローチは直ちに採用すべきであり、将来的なレジliエンスを高めるために、詳細なAIライフサイクルモデルと脅威インテリジェンスデータベースの開発を推奨する。

ABSTRACT

The complex and evolving threat landscape of frontier AI development requires a multi-layered approach to risk management ("defense-in-depth"). By reviewing cybersecurity and AI frameworks, we outline three approaches that can help identify gaps in the management of AI-related risks. First, a functional approach identifies essential categories of activities ("functions") that a risk management approach should cover, as in the NIST Cybersecurity Framework (CSF) and AI Risk Management Framework (AI RMF). Second, a lifecycle approach instead assigns safety and security activities across the model development lifecycle, as in DevSecOps and the OECD AI lifecycle framework. Third, a threat-based approach identifies tactics, techniques, and procedures (TTPs) used by malicious actors, as in the MITRE ATT&CK and MITRE ATLAS databases. We recommend that frontier AI developers and policymakers begin by adopting the functional approach, given the existence of the NIST AI RMF and other supplementary guides, but also establish a detailed frontier AI lifecycle model and threat-based TTP databases for future use.

研究の動機と目的

• フロントエンドAI開発の複雑化と変化し続ける脅威環境に対応するための、体系的なリスク管理を実現すること。
• 既存のサイバーセキュリティおよびAIフレームワークを分析することで、現在のAIリスク管理実践におけるギャップを特定すること。
• フロントエンドAIシステムの独自のリスクに特化した、多層的なディフェンスインデプス戦略を提唱すること。
• フロントエンドAI開発者および政策立案者に対して、適切なリスク管理フレームワークの選定と実装を支援すること。
• 将来的な専用のAIライフサイクルモデルおよび脅威インテリジェンスデータベースの開発の基盤を構築すること。

提案手法

• NIST Cybersecurity FrameworkおよびNIST AI RMFで定義されたコア機能に、基本的なリスク管理活動をマッピングすることで、機能的アプローチを採用する。
• DevSecOpsおよびOECD AIライフサイクルフレームワークを参考に、フロントエンドAIモデル開発の全段階に安全で信頼性の高い実践を統合することで、ライフサイクル的アプローチを実装する。
• MITRE ATT&CKおよびMITRE ATLASデータベースからインspiredして、悪意ある行動者が用いる戦術・手法・手順（TTPs）を特定・分類することで、脅威指向的アプローチを適用する。
• 複数のフレームワークからの知見を統合し、重複するおよび補完的なリスク管理分野を同定する。
• 成熟度と既存の基準との整合性を考慮し、機能的アプローチを直ちに採用すべきであると主張する。
• 将来的なリスク低減を支援するため、専用のフロントエンドAIライフサイクルモデルおよび脅威TTPデータベースの構築を提唱する。

実験結果

リサーチクエスチョン

• RQ1 既存のサイバーセキュリティおよびAIリスク管理フレームワークは、どのようにしてフロントエンドAIシステムの独自の課題に対応できるか？
• RQ2 フロントエンドAI開発に適用した際の現在のリスク管理実践における主なギャップは何か？
• RQ3 機能的・ライフサイクル的・脅威指向的リスク管理アプローチは、フロントエンドAIのセキュリティを強化するために、どのように相乗効果を発揮するか？
• RQ4 NIST CSFおよびAI RMFのような標準化されたフレームワークは、今日のフロントエンドAIリスク管理をどのように導くべきか？
• RQ5 将来的に備えられる脅威インテリジェンスおよびライフサイクルモデルを構築するための基盤的ステップは何か？

主な発見

• NIST AI RMFに基づく機能的アプローチは、成熟した基盤を提供し、フロントエンドAIリスクを即座に管理可能にする。
• ライフサイクル的アプローチにより、フロントエンドAI開発の全段階にわたり、セキュリティおよび安全性の実践を体系的に統合でき、予測可能性と制御性が向上する。
• MITRE ATT&CKおよびATLASから得たTTPsを用いる脅威指向的アプローチにより、フロントエンドAIシステムを標的とする悪意ある行動を事前に特定・低減できる。
• 機能的・ライフサイクル的・脅威指向的アプローチの3つを組み合わせることで、フロントエンドAIの包括的なディフェンスインデプス戦略が構築できる。
• 将来的なスケールでのリスク管理を支援するため、専用のフロントエンドAIライフサイクルモデルおよび脅威TTPデータベースの開発が急務である。
• 本論文は明確なロードマップを提示する：直ちに機能的アプローチを採用し、将来のライフサイクルおよび脅威指向的システムのインfraを構築する。