[論文レビュー] International AI Safety Report 2025: First Key Update: Capabilities and Risk Implications

Yoshua Bengio, Stephen Clare+71 more|ArXiv.org|Oct 15, 2025

Ethics and Social Impacts of AI被引用数 3

ひとこと要約

この論文は、最初の報告以来、AIの能力がどのように進展したかを推論・推論時技術に焦点を当てて分析し、関連するリスクと監視上の課題を評価します。生物兵器、サイバー攻撃、統制性に対する影響を強調します。

ABSTRACT

Since the publication of the first International AI Safety Report, AI capabilities have continued to improve across key domains. New training techniques that teach AI systems to reason step-by-step and inference-time enhancements have primarily driven these advances, rather than simply training larger models. As a result, general-purpose AI systems can solve more complex problems in a range of domains, from scientific research to software development. Their performance on benchmarks that measure performance in coding, mathematics, and answering expert-level science questions has continued to improve, though reliability challenges persist, with systems excelling on some tasks while failing completely on others. These capability improvements also have implications for multiple risks, including risks from biological weapons and cyber attacks. Finally, they pose new challenges for monitoring and controllability. This update examines how AI capabilities have improved since the first Report, then focuses on key risk areas where substantial new evidence warrants updated assessments.

研究の動機と目的

• 最初のInternational AI Safety Report 以降、AIの能力がどのように向上したかを評価する。
• 更新された証拠に基づき、 revised assessment が必要な主要なリスク領域を特定する。
• 監視、統制性、及びセキュリティ脅威（生物学的/サイバー）の観点からの影響を検討する。

提案手法

• ステップバイステップの推論と推論時強化の最近の進歩の調査。
• コード作成、数学、専門科目の科学問題のベンチマークでの性能向上の評価。
• 信頼性の課題とドメイン横断のタスク変動性の議論。

実験結果

リサーチクエスチョン

• RQ1 最初の報告以降、汎用AIシステムにおける最新の能力動向は何か。
• RQ2 これらの能力向上から新たまたは更新されたリスクは何か。
• RQ3 これらの進展を踏まえて監視と統制性の課題はどう変化するか。
• RQ4 生物兵器やサイバー攻撃などの脅威に対する含意は何か。

主な発見

• AIの能力は、単により大規模なモデルであるだけでなく、さまざまな領域で引き続き向上している。
• システムはコード作成、数学、専門科目の科学ベンチマークでの性能が向上している。
• 信頼性は依然として課題であり、異なるタスク間での成功率にばらつきがある。
• 能力の進展は生物学的リスクとサイバーリスクのシナリオ、及び監視・制御への影響を与える。
• 新たな証拠により、いくつかの主要領域でリスク評価の更新が必要である。