[論文レビュー] Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies

Miles Brundage, Noemi Dreksler+46 more|arXiv (Cornell University)|Jan 16, 2026

Adversarial Robustness in Machine Learning被引用数 0

ひとこと要約

この論文は frontier AI の監査を提唱し、 frontier AI 開発者による安全性とセキュリティに関する主張を独立した第三者が検証するための枠組みを、AI Assurance Levels および機密情報への安全なアクセスによって補完する。

ABSTRACT

We outline a vision for frontier AI auditing, which we define as rigorous third-party verification of frontier AI developers' safety and security claims, and evaluation of their systems and practices against relevant standards, based on deep, secure access to non-public information. Frontier AI audits should not be limited to a company's publicly deployed products, but should instead consider the full range of organization-level safety and security risks, including internal deployment of AI systems, information security practices, and safety decision-making processes. We describe four AI Assurance Levels (AALs), the higher levels of which provide greater confidence in audit findings. We recommend AAL-1 as a baseline for frontier AI generally, and AAL-2 as a near-term goal for the most advanced subset of frontier AI developers. Achieving the vision we outline will require (1) ensuring high quality standards for frontier AI auditing, so it does not devolve into a checkbox exercise or lag behind changes in the industry; (2) growing the ecosystem of audit providers at a rapid pace without compromising quality; (3) accelerating adoption of frontier AI auditing by clarifying and strengthening incentives; and (4) achieving technical readiness for high AI Assurance Levels so they can be applied when needed.

研究の動機と目的

• frontier AI システムに対する厳密な外部検 scrutiny が欠如していることと、それが安全性とセキュリティに及ぼすリスクを強調する。
• frontier AI 監査を、機密情報へ深くアクセスできる標準に対する厳密な第三者検証として定義する。
• 責任ある信頼できる外部評価を実現するエコシステムとガバナンス設計を提案する。
• AI Assurance Levels (AALs) を導入し、信頼性をキャリブレーションし監査の厳密さを伝える。
• frontier AI 監査をスケールさせ成熟させるための課題と具体的な次のステップを概説する。

提案手法

• frontier AI 監査を第三者検証と評価として定義・区別する。
• 監査の信頼度を調整する4段階の AI Assurance Levels (AAL-1 から AAL-4) を開発する。
• 深く機密情報へアクセスする等、監査人のアクセス要件を具体化する。
• 個々のモデルを超えた組織全体・システム全体の監査観点を提唱する。
• 独立した監査人のガバナンス・基準・厳密で透明性の高い報告のプロセスを提案する。
• エコシステム開発の課題と実行可能な次のステップを含むロードマップを概説する。

実験結果

リサーチクエスチョン

• RQ1 frontier AI 開発者にとって信頼できる厳密な第三者監査とは何か。
• RQ2 監査の結論に対する信頼性と実現可能性のバランスを取るために、 assurance levels をどのように構成すべきか。
• RQ3 独立・信頼できる監査を確保するために必要なアクセス・ガバナンス・プロセス要件は何か。
• RQ4 frontier AI 監査をスケールさせ成熟させる際の課題は何で、それをどのように解決するか。

主な発見

• 機密性が高く重大な安全性・セキュリティの詳細が公開開示に適さない場合の監査概念が必要。
• 監査は組織全体でリスクに焦点を当て、四つのリスクカテゴリ（意図的な悪用、予期せぬ挙動、情報セキュリティ、 emergent social phenomena）をカバーすべき。
• AI Assurance Levels (AALs) は信頼性のキャリブレーションスペクトラムを提供し、監査の範囲と深さを指針する。
• 監査人は深く安全な機密情報へのアクセスが必要であり、独立・専門性・適切なガバナンスが求められる。
• 監査は厳格で追跡可能・適応力があり、急速な AI 変化の中でも継続的なモニタリングが可能であるべき。
• 高水準の信頼性を達成するには、ガバナンス・インセンティブ・研究開発投資が必要である。