[論文レビュー] Secure and Trustworthy Computing 2.0 Vision Statement

Patrick McDaniel, Farinaz Koushanfar|arXiv (Cornell University)|Aug 1, 2023

Information and Cyber SecurityComputer Science被引用数 3

ひとこと要約

本論文は、サイバーセキュリティおよびプライバシー分野における新たな脅威、特にAI生成コンテンツ、合成メディア、デジタルシステムにおける信頼性に関する文脈を踏まえ、包括的かつ多分野にわたる研究アジェンダを提示する、セキュアで信頼できるコンピューティング2.0（SaTC 2.0）のビジョンを提示している。国家ワークショップからの知見を統合し、将来の研究を導くものであり、強固なシステム、信頼できるAI、社会的レジリエンスの強化を重視している。

ABSTRACT

The Secure and Trustworthy Computing (SaTC) program within the National Science Foundation (NSF) program serves as the primary instrument for creating novel fundamental science in security and privacy in the United States with broad impacts that influence the world. The program funds research in a vast array of research topics that span technology, theory, policy, law, and society. In the Spring of 2023, the program managers of SaTC requested that the community prepare a vision for the next ten years of research. This document represents the results of that effort which involved collecting input from numerous members of the security and privacy community, industry, academics, and government. Assembled from that input, this document offers a comprehensive view of general themes and specific areas of focus for future research as envisioned by the community.

研究の動機と目的

• 生成的AIに起因する進化する脅威に応じた、将来志向の研究ビジョンを定義すること。
• サイバーフィジカルおよびデジタルエコシステムにおけるシステム、AI、プライバシー、社会的影響の分野において、重要な研究ギャップと新たな課題を特定すること。
• 学術界、産業界、政府の専門家が参加する広範なワークショップからの知見を統合することで、国家的研究投資を誘導すること。
• 長期的なデジタルインフラの信頼性を確保するため、システム、AI、暗号、人的要因、政策の分野における学際的連携を促進すること。
• 社会的ニーズに合致した持続可能でレジリエントかつ倫理的根拠に基づいたサイバーセキュリティ研究の基盤を構築すること。

提案手法

• 学術界、産業界、政府の200名を超える専門家が参加する国家ワークショップを実施し、新たなテーマと研究優先分野を同定すること。
• 研究を、システムセキュリティ、ネットワークセキュリティ、AIセキュリティ、応用、暗号、プライバシー、人的／社会的要因の分野に分類すること。
• ハードウェア、ソフトウェア、AI、信頼フレームワークにおける現在の研究動向をマッピングし、重要なギャップを同定すること。
• 責任あるイノベーションを確保するため、技術的計画に倫理的、経済的、社会的次元を統合すること。
• 形式的手法、強固な機械学習、デジタル信頼性を含む8つの主要分野にわたり38のサブ分野を含む構造的な研究アジェンダを提言すること。
• ビジョン駆動型でコミュニティが関与するアプローチを用い、米国国立科学財団における将来の資金配分と研究方向性を導くこと。

実験結果

リサーチクエスチョン

• RQ1 生成的AIの時代において、ハードウェアとシステムをどのように再設計すれば、ネイティブにセキュリティとプライバシーを設計原則として組み込めるか？
• RQ2 区別がつかない合成メディアの検出、防止、影響緩和に必要な技術的および社会的対策は何か？
• RQ3 敵対的状況や分布シフト下でも、AIシステムをどのようにして強固で解釈可能で信頼できるものにできるか？
• RQ4 サプライチェーンおよびデジタルインfraのシステム的リスクは何か、形式的検証と政策的措置によってどのように緩和できるか？
• RQ5 安全なマルチパーティ計算や微分散プライバシーといった、プライバシー保護技術を実世界のシステムにスケーリングし統合するにはどうすればよいか？

主な発見

• SaTC 2.0ビジョンは、8つのコア分野にわたり38の明確に区別された研究サブ分野を特定し、将来の研究の構造的ロードマップを提供している。
• 政策の実行、ストレージの完全性、ハードウェアレベルの信頼性に焦点を当てた、システムセキュリティの再考が不可欠である。
• 生成的AIは、真正性と信頼性に前例のない挑戦をもたらし、新たな検出、帰属特定、検証技術の必要性を生じさせている。
• 強固な機械学習と信頼できるAIは、形式的検証、敵対的トレーニング、論理的推論の進展を必要としている。
• プライバシー研究は、技術的制御を越えて、データ利用と露呈の社会的・経済的・倫理的次元を含めるべきである。
• サイバーセキュリティ教育、倫理、オフensiveセキュリティは、レジリエントで信頼できるデジタルエコシステムを構築する上で不可欠な柱であると認識されている。