[论文解读] GPT-4o System Card

OpenAI, :+418 more|arXiv (Cornell University)|Oct 25, 2024

Cardiovascular Function and Risk Factors被引用 100

一句话总结

OpenAI 提供 GPT-4o 系统卡，详细介绍多模态 GPT-4o 模型及其能力、安全评估、风险缓解和第三方评估。

ABSTRACT

GPT-4o is an autoregressive omni model that accepts as input any combination of text, audio, image, and video, and generates any combination of text, audio, and image outputs. It's trained end-to-end across text, vision, and audio, meaning all inputs and outputs are processed by the same neural network. GPT-4o can respond to audio inputs in as little as 232 milliseconds, with an average of 320 milliseconds, which is similar to human response time in conversation. It matches GPT-4 Turbo performance on text in English and code, with significant improvement on text in non-English languages, while also being much faster and 50\% cheaper in the API. GPT-4o is especially better at vision and audio understanding compared to existing models. In line with our commitment to building AI safely and consistent with our voluntary commitments to the White House, we are sharing the GPT-4o System Card, which includes our Preparedness Framework evaluations. In this System Card, we provide a detailed look at GPT-4o's capabilities, limitations, and safety evaluations across multiple categories, focusing on speech-to-speech while also evaluating text and image capabilities, and measures we've implemented to ensure the model is safe and aligned. We also include third-party assessments on dangerous capabilities, as well as discussion of potential societal impacts of GPT-4o's text and vision capabilities.

研究动机与目标

• 在文本、视觉和音频模态上展示 GPT-4o 的能力，并在性能和成本方面与 GPT-4 Turbo 进行比较。
• 描述用于降低风险的数据源、预训练以及数据筛选/遮蔽策略。
• 概述 Preparedness Framework 的评估和跨多类风险的安全缓解措施。
• 详细说明外部红队评审过程、方法论及评估的局限性。
• 总结第三方评估与 GPT-4o 的社会影响考虑。

提出的方法

• 将 GPT-4o 描述为一个自回归全能模型，处理文本、图像、音频和视频输入，输出文本、音频或图像
• 解释数据来源和训练组件，包括网页数据、代码/数学数据，以及多模态数据
• 概述后训练对齐、红队活动以及面向产品层面的缓解措施作为安全措施
• 讨论使用红队数据的评估方法以及将文本任务通过文本转语音（TTS）转换为音频任务的做法
• 展示 Preparedness Framework 的评估以及高风险类别如何影响部署决策
• 总结第三方评估（METR 与 Apollo Research）及其含义

实验结果

研究问题

• RQ1 GPT-4o 在文本、视觉和音频模态上的能力是什么？
• RQ2 针对语音到语音的用例，安全缓解措施和审核工具有多有效？
• RQ3 在能力和安全行为方面，GPT-4o 在多样化语音和口音上的表现如何？
• RQ4 外部红队评审和第三方评估在自主性相关风险方面的结果是什么？

主要发现

• GPT-4o 在英文文本和代码方面与 GPT-4 Turbo 相当，API 更快且成本低 50%，在非英文文本方面有显著改进
• 外部红队覆盖了跨 29 个国家/地区的 45 种语言，并为多项安全评估和缓解措施提供了信息
• 语音模式缓解措施在防止未经授权的语音生成和说话者识别拒绝方面显示出高准确性（例如，在说话者识别中应拒绝的比例超过 98%）
• 在多样化语音中的表现差异很小；评估中安全行为在不同语音之间基本保持不变
• Preparedness Framework在评估网络安全、CBRN、说服和模型自主性后，将 GPT-4o 的总体风险分类为中等
• 第三方评估（METR 与 Apollo）提供了额外的验证，但也突出了自主性相关能力的局限性

Figure 1 : Quantum physics experiment red teamer example