[논문 리뷰] Adapting cybersecurity frameworks to manage frontier AI risks: A defense-in-depth approach

Shaun Ee, J.N. O'Brien외 4명|arXiv (Cornell University)|2024. 08. 15.

Information and Cyber Security인용 수 4

한 줄 요약

이 논문은 NIST 사이버보안 프레임워크와 NIST AI 리스크 관리 프레임워크를 활용하여 전면적 보안 전략을 적용함으로써 프론티어 AI 리스크를 관리하기 위한 방어 전략을 제안한다. 이는 功能적, 수명주기, 위협 기반의 세 가지 상호보완적 접근 방식을 통해 이루어지며, 기능적 접근 방식은 즉시 도입할 것을 권고하고, 향후 복원력을 높이기 위해 구체적인 AI 수명주기 모델과 위협 인텔리전스 데이터베이스를 개발할 것을 제안한다.

ABSTRACT

The complex and evolving threat landscape of frontier AI development requires a multi-layered approach to risk management ("defense-in-depth"). By reviewing cybersecurity and AI frameworks, we outline three approaches that can help identify gaps in the management of AI-related risks. First, a functional approach identifies essential categories of activities ("functions") that a risk management approach should cover, as in the NIST Cybersecurity Framework (CSF) and AI Risk Management Framework (AI RMF). Second, a lifecycle approach instead assigns safety and security activities across the model development lifecycle, as in DevSecOps and the OECD AI lifecycle framework. Third, a threat-based approach identifies tactics, techniques, and procedures (TTPs) used by malicious actors, as in the MITRE ATT&CK and MITRE ATLAS databases. We recommend that frontier AI developers and policymakers begin by adopting the functional approach, given the existence of the NIST AI RMF and other supplementary guides, but also establish a detailed frontier AI lifecycle model and threat-based TTP databases for future use.

연구 동기 및 목표

• 프론티어 AI 개발의 복잡성 증가와 변화하는 위협 환경을 체계적인 리스크 관리로 대응하기 위해.
• 기존의 사이버보안 및 AI 프레임워크를 분석함으로써 현재의 AI 리스크 관리 관행에서의 격차를 규명하기 위해.
• 프론티어 AI 시스템의 고유한 리스크에 맞게 조정된 다층적 방어 전략 기반의 리스크 관리 전략을 제안하기 위해.
• 프론티어 AI 개발자와 정책 입안자들이 적절한 리스크 관리 프레임워크를 선택하고 구현하는 데 안내하기 위해.
• 향후 전문화된 AI 수명주기 모델과 위협 인텔리전스 데이터베이스 개발을 위한 기초를 마련하기 위해.

제안 방법

• NIST 사이버보안 프레임워크와 NIST AI RMF에서 정의한 핵심 기능에 따라 필수 리스크 관리 활동을 매핑함으로써 기능적 접근 방식을 채택하기 위해.
• DevSecOps와 OECD AI 수명주기 프레임워크를 영감으로 삼아, 프론티어 AI 모델 개발의 모든 단계에 안전성과 보안 관행을 통합함으로써 수명주기 접근 방식을 구현하기 위해.
• MITRE ATT&CK와 MITRE ATLAS 데이터베이스에서 유래한 악성 행위자들이 사용하는 전술, 기법 및 절차(TTPs)를 식별하고 카탈로그화함으로써 위협 기반 접근 방식을 적용하기 위해.
• 다양한 프레임워크에서 도출된 통찰을 융합하여 겹치거나 상호보완적인 리스크 관리 영역을 식별하기 위해.
• 기능적 접근 방식이 기존 표준과의 일치성과 성숙도가 높아 즉시 도입할 것을 우선순위로 삼기 위해.
• 장기적인 리스크 완화를 지원하기 위해 전문화된 프론티어 AI 수명주기 모델과 위협 TTP 데이터베이스 구축을 촉진하기 위해.

실험 결과

연구 질문

• RQ1 기존의 사이버보안 및 AI 리스크 관리 프레임워크는 어떻게 프론티어 AI 시스템의 고유한 도전 과제를 해결하기 위해 적응시킬 수 있는가?
• RQ2 프론티어 AI 개발에 적용했을 때 현재의 리스크 관리 관행에서 나타나는 주요 격차는 무엇인가?
• RQ3 기능적, 수명주기적, 위협 기반의 리스크 관리 접근 방식은 어떻게 상호보완적으로 작용하여 프론티어 AI를 보호하는가?
• RQ4 NIST CSF와 AI RMF와 같은 표준화된 프레임워크는 오늘날 프론티어 AI 리스크 관리에 어떻게 기여해야 하는가?
• RQ5 미래에 대비한 위협 인텔리전스와 수명주기 모델을 구축하기 위해 필요한 기초 단계는 무엇인가?

주요 결과

• NIST AI RMF를 기반으로 한 기능적 접근 방식은 프론티어 AI 리스크를 관리하기 위한 성숙하고 즉시 실행 가능한 기반을 제공한다.
• 수명주기 접근 방식은 프론티어 AI 개발의 모든 단계에 보안 및 안전 관행을 체계적으로 통합함으로써 예측 가능성과 통제력을 향상시킨다.
• MITRE ATT&CK와 ATLAS에서 유래한 TTPs를 활용한 위협 기반 접근 방식은 프론티어 AI 시스템을 대상으로 하는 악성 행동을 사전에 식별하고 완화할 수 있도록 한다.
• 기능적, 수명주기적, 위협 기반의 세 가지 접근 방식을 조합하면 프론티어 AI를 위한 종합적인 방어 전략 기반의 리스크 관리 전략을 구축할 수 있다.
• 향후 스케일에 맞는 리스크 관리 지원을 위해 전문화된 프론티어 AI 수명주기 모델과 위협 TTP 데이터베이스 개발이 절실하게 필요하다.
• 이 논문은 명확한 로드맵을 제시한다: 즉시 기능적 접근 방식을 도입하고, 미래를 대비해 수명주기 및 위협 기반 체계의 인프라를 구축할 것.