[論文レビュー] International Scientific Report on the Safety of Advanced AI (Interim Report)

Yoshua Bengio, Sören Mindermann+42 more|arXiv (Cornell University)|Nov 5, 2024

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

一般用途AIの安全性とリスクに関する科学的理解の暫定的総括で、国際的な専門家グループの貢献を含む。

ABSTRACT

This is the interim publication of the first International Scientific Report on the Safety of Advanced AI. The report synthesises the scientific understanding of general-purpose AI -- AI that can perform a wide variety of tasks -- with a focus on understanding and managing its risks. A diverse group of 75 AI experts contributed to this report, including an international Expert Advisory Panel nominated by 30 countries, the EU, and the UN. Led by the Chair, these independent experts collectively had full discretion over the report's content. The final report is available at arXiv:2501.17805

研究の動機と目的

• 一般用途AIの現在の科学的理解とそのリスクを要約する。
• 高度なAIシステムのガバナンスと安全性の考慮事項を評価する。
• 国際的な専門家の意見と独立した内容監督の役割を強調する。
• 最終報告書と将来の研究優先課題の方向性を示す。

提案手法

• 一般用途AIと安全性に関する既存の科学文献の調査と統合。
• 報告書に寄与する多様な75名のAI専門家の参加を含む。
• 内容の全権を掌握する、30か国、EU、UNによって指名された独立専門家諮問委員会。
• 暫定的な調査結果と最終公表への道筋を文書化。

実験結果

リサーチクエスチョン

• RQ1 専門家コミュニティが理解する一般用途AIに関連する主な安全リスクは何か。
• RQ2 高度なAIにとって最も効果的なガバナンス、監督、リスク管理の機構は何か。
• RQ3 国際的な協力と専門家の意見がAIの安全基準にどのように反映されるべきか。
• RQ4 最終報告書は理解と安全実践を進展させるためにどの方向へ向かうべきか。

主な発見

• 本報告は一般用途AIの科学的理解を、リスクの理解と管理に焦点を当てて統合する。
• 多様な75名のAI専門家が本報告に寄与した。
• 国際的な専門家諮問パネルは30か国、EU、UNによって指名された。
• 最終報告は arXiv:2501.17805 に掲載されている。
• 独立した専門家は報告の内容について総括的な裁量を有していた。