[论文解读] The Windfall Clause: Distributing the Benefits of AI for the Common Good

Cullen O’Keefe, Peter Cihon+4 more|arXiv (Cornell University)|Dec 25, 2019

Ethics and Social Impacts of AI参考文献 25被引用 5

一句话总结

该论文提出了风投资clause（Windfall Clause），即人工智能企业事先承诺，将因变革性人工智能突破而获得的异常高额利润的显著份额捐赠给全人类，以惠及社会整体。通过将这一承诺制度化为具有约束力的企业承诺，作者旨在使人工智能的发展与公共利益保持一致，特别是缓解风险并确保利益的公平分配。

ABSTRACT

As the transformative potential of AI has become increasingly salient as a matter of public and political interest, there has been growing discussion about the need to ensure that AI broadly benefits humanity. This in turn has spurred debate on the social responsibilities of large technology companies to serve the interests of society at large. In response, ethical principles and codes of conduct have been proposed to meet the escalating demand for this responsibility to be taken seriously. As yet, however, few institutional innovations have been suggested to translate this responsibility into legal commitments which apply to companies positioned to reap large financial gains from the development and use of AI. This paper offers one potentially attractive tool for addressing such issues: the Windfall Clause, which is an ex ante commitment by AI firms to donate a significant amount of any eventual extremely large profits. By this we mean an early commitment that profits that a firm could not earn without achieving fundamental, economically transformative breakthroughs in AI capabilities will be donated to benefit humanity broadly, with particular attention towards mitigating any downsides from deployment of windfall-generating AI.

研究动机与目标

• 解决社会日益关注的变革性人工智能发展带来的利益分配不均问题。
• 提出一种具体的制度化机制，将人工智能企业的伦理责任转化为可执行的承诺。
• 确保变革性人工智能能力突破带来的超额利润被用于全球公共产品和风险缓解。
• 提供一种可扩展的、预先实施的解决方案，使企业激励与长期社会福祉保持一致。
• 通过一种实用且可实施的框架，推动人工智能发展领域的政策与治理创新。

提出的方法

• 风投资clause被设计为一项具有法律约束力的、预先承诺的公司义务，即捐赠超过特定阈值的显著利润份额。
• 该阈值设定为仅因人工智能能力的根本性、经济变革性突破才可能实现的利润水平。
• 该条款可通过法律或合同机制（如股东协议或公开承诺）加以执行。
• 捐赠资金将用于全球公共产品，特别是用于应对人工智能部署可能带来的负面影响。
• 该框架借鉴了现有的企业慈善和气候风险承诺模式，并针对人工智能独特的经济与社会影响进行了调整。
• 作者主张由领先的人工智能企业自愿但具有约束力地采纳该机制，以增强社会责任感。

实验结果

研究问题

• RQ1 如何激励人工智能企业与全社会共享变革性人工智能带来的超额利润？
• RQ2 何种制度机制可将伦理原则转化为人工智能开发者的可执行承诺？
• RQ3 如何将人工智能突破带来的超额利润用于缓解社会风险并支持全球公共产品？
• RQ4 实施人工智能超额利润约束性承诺的实际与法律路径有哪些？
• RQ5 预先制定的、企业层面的承诺能否有效实现企业收益与长期人类福祉的一致？

主要发现

• 风投资clause为将人工智能超额利润分配给社会提供了可行、可扩展且可执行的机制。
• 该条款针对仅通过变革性人工智能突破才可实现的利润，确保其与高影响力发展的相关性。
• 通过事先承诺，企业能够可信地表明其对公共利益的承诺，从而增强公众信任。
• 该框架通过将资源导向潜在人工智能部署危害的应对，支持风险缓解。
• 该提案可适应多种法律和公司治理结构，提高了其实际可行性。
• 作者将风投资clause定位为将人工智能社会责任制度化的重要一步，超越自愿的伦理准则。