[논문 리뷰] International AI Safety Report

Yoshua Bengio, Sören Mindermann외 94명|ArXiv.org|2025. 01. 29.

Ethics and Social Impacts of AI인용 수 10

한 줄 요약

본 논문은 고급 AI 시스템의 역량, 위험 및 안전에 대한 현재 증거를 합성하여 AI Safety Summit의 Expert Advisory Panel을 위해 수집했습니다. 100명의 AI 전문가가 30개국과 주요 국제기구에서 기여했습니다.

ABSTRACT

The first International AI Safety Report comprehensively synthesizes the current evidence on the capabilities, risks, and safety of advanced AI systems. The report was mandated by the nations attending the AI Safety Summit in Bletchley, UK. Thirty nations, the UN, the OECD, and the EU each nominated a representative to the report's Expert Advisory Panel. A total of 100 AI experts contributed, representing diverse perspectives and disciplines. Led by the report's Chair, these independent experts collectively had full discretion over the report's content.

연구 동기 및 목표

• 고급 AI 시스템의 역량에 대한 현재 증거 상태를 평가한다.
• 다양한 영역에서 관련 위험 및 안전 고려사항을 평가한다.
• 국제 정책입안자와 이해관계자를 위한 독립적인 전문가 지침을 제공한다.

제안 방법

• 30개국, UN, OECD, EU의 대표들로 구성된 Expert Advisory Panel을 소집했다.
• 다양한 분야와 시각을 대표하는 100명의 AI 전문가가 기여했다.
• 독립적 전문가들이 보고서 내용에 대한 전적인 재량권을 가졌다.

실험 결과

연구 질문

• RQ1 전문가의 의견에 의해 입증된 고급 AI 시스템의 현재 역량은 무엇인가?
• RQ2 고급 AI 시스템과 관련된 주요 위험 및 안전 문제는 무엇인가?
• RQ3 국제적이고 다학제적인 평가로부터 제시되는 정책 및 안전 권고는 무엇인가?

주요 결과

• 본 보고서는 고급 AI 시스템의 역량, 위험 및 안전에 대한 증거를 합성한다.
• 영국 벨처리에서 열리는 AI Safety Summit에 참석한 국가들에 의해 의무화되었다.
• 기여자들은 다양한 시각과 학문을 대표했으며, 총 100명의 AI 전문가로 구성됐다.