[论文解读] The Role of Cooperation in Responsible AI Development

Amanda Askell, Miles Brundage+1 more|arXiv (Cornell University)|Jul 10, 2019

Innovation, Sustainability, Human-Machine Systems参考文献 72被引用 46

一句话总结

该论文认为竞争压力可能削弱负责任的 AI 发展，并确定五个因素和四种策略以促进行业合作，从而实现更安全、对社会更有益的 AI。

ABSTRACT

In this paper, we argue that competitive pressures could incentivize AI companies to underinvest in ensuring their systems are safe, secure, and have a positive social impact. Ensuring that AI systems are developed responsibly may therefore require preventing and solving collective action problems between companies. We note that there are several key factors that improve the prospects for cooperation in collective action problems. We use this to identify strategies to improve the prospects for industry cooperation on the responsible development of AI.

研究动机与目标

• 解释为什么竞争可能削弱负责任的 AI 发展，并将这一概念引入作为集体行动问题。
• 识别在推动负责任发展中提高 AI 开发者之间合作的因素。
• 讨论克服集体行动问题、促进更安全、对社会更有益的 AI 的潜在策略。

提出的方法

• 作者将负责任的 AI 发展及其成本和收益概念化。
• 他们分析竞争下的激励以及先行者动态如何影响安全投资。
• 他们定义了五个促进合作的因素：高度信任、共享收益、低暴露、低优势和共享下行风险。
• 他们提出四个可操作的策略：纠正有害误解、在共同挑战上协作、增加适当的监督、激励遵守伦理与安全标准。

实验结果

研究问题

• RQ1 竞争压力如何影响投资于负责任 AI 发展中的激励？
• RQ2 哪些因素增加 AI 开发者在负责任 AI 发展中的合作可能性？
• RQ3 哪些策略可以减少集体行动问题、促进更安全、对社会更有益的 AI？
• RQ4 在什么条件下监管、责任或市场力量能更好地使激励与社会福利对齐？

主要发现

• 竞争压力可能带来集体行动问题，导致对安全、安保和社会影响的投资不足。
• 五个因素提高合作前景：高度信任、共享收益、低暴露、低优势、共享下行风险。
• 促进合作的四种策略：纠正误解、在共同研究/工程挑战上协作、在适当场合加强监督、激励伦理/安全遵从。
• 分析讨论市场力量、责任法律和监管如何与竞争相互作用以塑造负责任 AI 的激励。