[论文解读] International AI Safety Report

Yoshua Bengio, Sören Mindermann+94 more|ArXiv.org|Jan 29, 2025

Ethics and Social Impacts of AI被引用 10

一句话总结

该论文综合了当前关于高级AI系统的能力、风险和安全性的证据，汇编用于AI Safety Summit 的专家咨询委员会。它代表来自30个国家和主要国际机构的100位AI专家的贡献。

ABSTRACT

The first International AI Safety Report comprehensively synthesizes the current evidence on the capabilities, risks, and safety of advanced AI systems. The report was mandated by the nations attending the AI Safety Summit in Bletchley, UK. Thirty nations, the UN, the OECD, and the EU each nominated a representative to the report's Expert Advisory Panel. A total of 100 AI experts contributed, representing diverse perspectives and disciplines. Led by the report's Chair, these independent experts collectively had full discretion over the report's content.

研究动机与目标

• 评估关于高级AI系统能力的现有证据状态。
• 评估跨多领域的相关风险和安全性考虑。
• 为国际决策者和利益相关方提供独立的专家指导。

提出的方法

• 召集一个由来自30个国家、联合国、经合组织和欧盟的代表组成的专家咨询委员会。
• 100位AI专家参与，代表多样的学科和观点。
• 独立专家对报告内容拥有完全裁量权。

实验结果

研究问题

• RQ1 从专家意见看，当前高级AI系统的能力是什么？
• RQ2 与高级AI系统相关的主要风险和安全关注点是什么？
• RQ3 来自国际多学科评估的政策与安全建议有哪些？

主要发现

• 报告综合了关于高级AI系统的能力、风险和安全性的证据。
• 该报告由参加英国布莱切利举行的AI安全峰会的各国授权发布。
• 贡献者代表了多样的观点和学科，总计100位AI专家。