[论文解读] Release Strategies and the Social Impacts of Language Models

Irene Solaiman, Miles Brundage+13 more|arXiv (Cornell University)|Aug 24, 2019

Topic Modeling参考文献 8被引用 283

一句话总结

本文讨论 OpenAI 的 GPT-2 发布策略，强调分阶段发布、风险-收益分析，以及基于伙伴关系的研究以应对社会影响并引导负责任的发表。

ABSTRACT

Large language models have a range of beneficial uses: they can assist in prose, poetry, and programming; analyze dataset biases; and more. However, their flexibility and generative capabilities also raise misuse concerns. This report discusses OpenAI's work related to the release of its GPT-2 language model. It discusses staged release, which allows time between model releases to conduct risk and benefit analyses as model sizes increased. It also discusses ongoing partnership-based research and provides recommendations for better coordination and responsible publication in AI.

研究动机与目标

• 促使研究语言模型发布如何在收益与危害之间取得平衡。
• 分析 GPT-2 的分阶段发布，作为模型规模扩大时进行风险与收益评估的方法。
• 提出协作机制和基于伙伴关系的研究，以改善 AI 领域的负责任发布。

提出的方法

• 描述分阶段发布作为在模型规模增加时监控风险与收益的机制。
• 讨论基于伙伴关系的持续研究作为分享发现和经验教训的方式。
• 为提升 AI 领域的协调与负责任出版提供建议。

实验结果

研究问题

• RQ1 随着逐步发布更大规模的语言模型，会产生哪些社会与安全方面的考量？
• RQ2 分阶段发布和基于伙伴关系的研究如何改进风险-收益分析和负责任的出版？
• RQ3 有哪些建议可以增强研究人员和机构在 AI 发布中的协调？

主要发现

• 该报告将 OpenAI 的 GPT-2 发布策略作为分阶段发布与风险评估的案例研究。
• 它倡导持续的基于伙伴关系的研究，以更好地理解语言模型的社会影响与收益。
• 作者提出了改善协调与负责任出版的建议。