[論文レビュー] The Windfall Clause: Distributing the Benefits of AI for the Common Good

Cullen O’Keefe, Peter Cihon+4 more|arXiv (Cornell University)|Dec 25, 2019

Ethics and Social Impacts of AI参考文献 25被引用数 5

ひとこと要約

本稿は、変革的AIの発明による非常に大きな利益が発生した場合に、その利益の大幅な一部を人類全体に還元することをAI企業が事前に約束する「ウィンフール条項」を提唱する。この条項を法的拘束力のある企業の約束として制度化することで、著者らはAI開発を共通の利益に沿わせ、とりわけリスクの低減と利益の公平な分配を実現することを目的としている。

ABSTRACT

As the transformative potential of AI has become increasingly salient as a matter of public and political interest, there has been growing discussion about the need to ensure that AI broadly benefits humanity. This in turn has spurred debate on the social responsibilities of large technology companies to serve the interests of society at large. In response, ethical principles and codes of conduct have been proposed to meet the escalating demand for this responsibility to be taken seriously. As yet, however, few institutional innovations have been suggested to translate this responsibility into legal commitments which apply to companies positioned to reap large financial gains from the development and use of AI. This paper offers one potentially attractive tool for addressing such issues: the Windfall Clause, which is an ex ante commitment by AI firms to donate a significant amount of any eventual extremely large profits. By this we mean an early commitment that profits that a firm could not earn without achieving fundamental, economically transformative breakthroughs in AI capabilities will be donated to benefit humanity broadly, with particular attention towards mitigating any downsides from deployment of windfall-generating AI.

研究の動機と目的

• 変革的AI開発による利益の不均等な分配に関する社会的懸念に対処すること。
• AI企業の倫理的責任を実行可能な約束に変換する具体的な制度的メカニズムを提唱すること。
• 変革的AI能力の特許的進歩に起因する急増利益が、グローバル公共財およびリスク低減に向けられるようにすること。
• 企業のインcentivesを長期的な社会的幸福に一致させる、スケーラブルで事前的な解決策を提供すること。
• 実用的で実装可能なフレームワークを通じて、AI開発における政策およびガバナンスのイノベーションを促進すること。

提案手法

• ウィンフール条項は、定められた基準を超える利益が発生した場合に、その利益の大幅な一部を寄付する法的拘束力のある事前約束として構造化されている。
• 基準は、AI能力の根本的かつ経済を変革する進歩に起因する利益に限定される。
• 条項は、株主契約や公的約束などの法的または契約的メカニズムを通じて実行可能であるように設計されている。
• 寄付は、AIの導入による潜在的悪影響の是正を目的としたグローバル公共財に向けられる。
• このフレームワークは、既存の企業の寄付活動や気候リスクへの対応の取り組みを模倣し、AI特有の経済的・社会的影響に適合させたものである。
• 著者らは、先導的AI企業による自発的だが法的拘束力のある取り組みとしての採用を提唱している。

実験結果

リサーチクエスチョン

• RQ1 AI企業はどのようにして、変革的AIから得られる急増利益を社会全体と共有するインcentiveを得られるか？
• RQ2 どのような制度的メカニズムがAI開発者の倫理的原則を実行可能な約束に変換できるか？
• RQ3 AIの特許的進歩に起因する急増利益は、どのようにして社会的リスクの低減とグローバル公共財の支援に向けられるか？
• RQ4 法的・実務的手段として、AIの急増利益に対する拘束力のある約束を実装するための道筋は何か？
• RQ5 事前に企業レベルで約束をした仕組みは、企業の利益を長期的人類の幸福に一致させるのに効果的か？

主な発見

• ウィンフール条項は、社会に利益をもたらすためにAIの急増利益を分配する現実的でスケーラブルかつ実行可能なメカニズムを提供する。
• 条項は、変革的AIの特許的進歩に起因する利益にのみ適用され、高影響の開発に特化している。
• 事前に約束することで、企業は共通の利益へのコミットメントを信頼できる形で示すことができ、一般の信頼を高められる。
• リスク低減を支援するために、資源をAI導入の潜在的悪影響の是正に向けられる。
• このフレームワークは、さまざまな法的および企業ガバナンス構造に適応可能であり、実務的実現可能性を高めている。
• 著者らは、ウィンフール条項を、自発的な倫理コードを超えてAIの社会的責任を制度化するための重要な一歩と位置づけている。