[논문 리뷰] Secure and Trustworthy Computing 2.0 Vision Statement

Patrick McDaniel, Farinaz Koushanfar|arXiv (Cornell University)|2023. 08. 01.

Information and Cyber SecurityComputer Science인용 수 3

한 줄 요약

이 논문은 사이버보안 및 프라이버시 분야의 새로운 도전 과제, 특히 AI 생성 콘텐츠, 합성 미디어, 디지털 시스템 신뢰성과 관련된 미래의 위협에 대응하기 위해 종합적이고 다학제적인 연구 의제를 제안하는 '보안 및 신뢰할 수 있는 컴퓨팅 2.0(SaTC 2.0)' 비전을 제시한다. 국가 워크숍의 통찰을 종합하여 향후 연구를 이끌며, 강력한 시스템, 신뢰할 수 있는 AI, 사회적 회복력에 중점을 둔다.

ABSTRACT

The Secure and Trustworthy Computing (SaTC) program within the National Science Foundation (NSF) program serves as the primary instrument for creating novel fundamental science in security and privacy in the United States with broad impacts that influence the world. The program funds research in a vast array of research topics that span technology, theory, policy, law, and society. In the Spring of 2023, the program managers of SaTC requested that the community prepare a vision for the next ten years of research. This document represents the results of that effort which involved collecting input from numerous members of the security and privacy community, industry, academics, and government. Assembled from that input, this document offers a comprehensive view of general themes and specific areas of focus for future research as envisioned by the community.

연구 동기 및 목표

• 발전하는 AI 및 합성 콘텐츠로부터 비롯하는 위협에 대응하여 보안 및 신뢰할 수 있는 컴퓨팅을 위한 전망 기반 연구 비전을 정의하기 위해.
• 사이버-물리적 및 디지털 생태계에서 시스템, AI, 프라이버시, 사회적 영향 분야의 핵심 연구 격차와 새로운 과제를 식별하기 위해.
• 학계, 산업계, 정부 소속 전문가들이 참여한 광범위한 워크숍의 의견을 종합하여 국가 연구 투자 방향을 안내하기 위해.
• 장기적인 디지털 인프라의 신뢰성을 확보하기 위해 시스템, AI, 암호학, 인간 요소, 정책 분야 간의 다학제적 협업을 촉진하기 위해.
• 사회적 수요에 부합하는 지속 가능하고 회복력 있으며 윤리적으로 기반을 둔 사이버보안 연구 기반을 마련하기 위해.

제안 방법

• 학계, 산업계, 정부 소속 200명 이상의 전문가가 참여한 국가 워크숍을 통해 새로운 주제와 연구 우선순위를 식별하기 위해.
• 연구를 시스템 보안, 네트워크 보안, AI 보안, 응용, 암호학, 프라이버시, 인간/사회적 요인 등의 주제 분야로 조직하기 위해.
• 하드웨어, 소프트웨어, AI, 신뢰 프레임워크 분야의 현재 연구 추세를 분석하고 핵심 격차를 식별하기 위해.
• 윤리적, 경제적, 사회적 차원을 기술적 연구 기획에 통합하여 책임감 있는 혁신을 보장하기 위해.
• 공식 방법론, 강건한 머신러닝, 디지털 신뢰 등 포함 8개 주요 분야에 걸쳐 총 38개의 하위 영역을 포함한 체계적인 연구 의제를 제안하기 위해.
• 비전 중심의, 공동체 기반의 접근 방식을 통해 국립 과학재단(National Science Foundation)의 향후 자금 지원 및 연구 방향을 이끌기 위해.

실험 결과

연구 질문

• RQ1 생성형 AI 시대에 하드웨어와 시스템이 보안 및 프라이버시를 설계 원칙으로 내재화할 수 있도록 재구조화할 수 있는 방법은 무엇인가?
• RQ2 구분이 불가능한 합성 미디어의 영향을 탐지, 방지, 완화하기 위해 필요한 기술적 및 사회적 보호 조치는 무엇인가?
• RQ3 적대적 조건과 분포 변화 상황에서도 강건하고 해석 가능하며 신뢰할 수 있는 AI 시스템을 구현하기 위한 방법은 무엇인가?
• RQ4 공급망 및 디지털 인fra구조에서의 체계적 위험은 무엇이며, 공식 검증 및 정책 수단으로 이를 어떻게 완화할 수 있는가?
• RQ5 안전한 다자간 계산 및 차별적 프라이버시와 같은 프라이버시 보존 기술을 실세계 시스템에 확장하고 통합하기 위한 방법은 무엇인가?

주요 결과

• SaTC 2.0 비전은 8개의 핵심 분야에 걸쳐 총 38개의 별도 연구 하위 영역을 식별하여 향후 연구를 위한 구조화된 로드맵을 제공한다.
• 정책 이행, 스토리지 무결성, 하드웨어 수준의 신뢰를 중점으로 하는 시스템 보안 재설계가 절실한 필요성이 있다.
• 생성형 AI는 진위성과 신뢰성에 전례 없는 도전을 안겨주며, 새로운 탐지, 귀속, 검증 기법이 필요하다.
• 강건한 머신러닝과 신뢰할 수 있는 AI를 위해서는 공식 검증, 적대적 훈련, 논리 기반 추론 분야의 발전이 필요하다.
• 프라이버시 연구는 기술적 통제를 넘어서 데이터 사용 및 노출의 사회적, 경제적, 윤리적 차원을 포함해야 한다.
• 사이버보안 교육, 윤리, 공격적 보안은 신뢰할 수 있고 회복력 있는 디지털 생태계를 구축하기 위한 필수 기둥으로 인정된다.