[論文レビュー] International AI Safety Report

Yoshua Bengio, Sören Mindermann+94 more|ArXiv.org|Jan 29, 2025

Ethics and Social Impacts of AI被引用数 10

ひとこと要約

この論文は、AI Safety SummitのExpert Advisory Panelのために、高度なAIシステムの能力、リスク、および安全性に関する現在のエビデンスを統合したものです。30か国と主要な国際機関を跨ぐ100名のAI専門家の貢献を反映しています。

ABSTRACT

The first International AI Safety Report comprehensively synthesizes the current evidence on the capabilities, risks, and safety of advanced AI systems. The report was mandated by the nations attending the AI Safety Summit in Bletchley, UK. Thirty nations, the UN, the OECD, and the EU each nominated a representative to the report's Expert Advisory Panel. A total of 100 AI experts contributed, representing diverse perspectives and disciplines. Led by the report's Chair, these independent experts collectively had full discretion over the report's content.

研究の動機と目的

• 高度なAIシステムの能力に関する現在のエビデンスの状態を評価する。
• 多様な領域にわたる関連リスクと安全性の考慮事項を評価する。
• 国際的な政策立案者と利害関係者のための独立した専門家ガイダンスを提供する。

提案手法

• 30か国の代表、UN、OECD、EUを含むExpert Advisory Panelを招集した。
• 100名のAI専門家が多様な分野と観点を代表して貢献した。
• 独立した専門家はレポートの内容に関して完全な裁量を有していた。

実験結果

リサーチクエスチョン

• RQ1 専門家の意見によって示された高度なAIシステムの現在の能力は何か。
• RQ2 高度なAIシステムに関連する主要なリスクと安全性の懸念は何か。
• RQ3 国際的で多学科的な評価から生じる政策と安全性の推奨事項は何か。

主な発見

• 本報告は高度なAIシステムの能力、リスク、および安全性に関するエビデンスを統合している。
• 英国のBletchleyでのAI Safety Summitに出席した各国の議定により委託された。
• 寄稿者は多様な視点と学問分野を代表しており、合計で100名のAI専門家から成る。