[논문 리뷰] The Windfall Clause: Distributing the Benefits of AI for the Common Good

Cullen O’Keefe, Peter Cihon외 4명|arXiv (Cornell University)|2019. 12. 25.

Ethics and Social Impacts of AI참고 문헌 25인용 수 5

한 줄 요약

이 논문은 전기적 약속을 통해 인공지능 기업들이 이전에 없던 수준의 수익을 얻었을 경우 그 수익의 상당 부분을 인류 전체의 복지를 위해 기부하도록 제안한다. 이는 기업의 의무를 법적 또는 계약적 수단으로 확립함으로써, 인공지능 개발을 공공의 복지와 일치시키고, 특히 위험을 완화하며 이익의 공정한 배분을 보장하고자 하는 것이다.

ABSTRACT

As the transformative potential of AI has become increasingly salient as a matter of public and political interest, there has been growing discussion about the need to ensure that AI broadly benefits humanity. This in turn has spurred debate on the social responsibilities of large technology companies to serve the interests of society at large. In response, ethical principles and codes of conduct have been proposed to meet the escalating demand for this responsibility to be taken seriously. As yet, however, few institutional innovations have been suggested to translate this responsibility into legal commitments which apply to companies positioned to reap large financial gains from the development and use of AI. This paper offers one potentially attractive tool for addressing such issues: the Windfall Clause, which is an ex ante commitment by AI firms to donate a significant amount of any eventual extremely large profits. By this we mean an early commitment that profits that a firm could not earn without achieving fundamental, economically transformative breakthroughs in AI capabilities will be donated to benefit humanity broadly, with particular attention towards mitigating any downsides from deployment of windfall-generating AI.

연구 동기 및 목표

• 기술적 전환을 이끄는 인공지능 발전으로 인한 이익 분배의 불균형 문제에 대응하기 위해.
• 윤리적 책임을 이행 가능한 약속으로 전환할 수 있는 구체적인 제도적 메커니즘을 제안하기 위해.
• 기초적인 돌파구를 이룬 인공지능 능력에서 발생하는 폭발적 수익이 세계적 공공재와 위험 완화를 위해 유용하게 쓰일 수 있도록 보장하기 위해.
• 기업의 이익을 장기적인 사회적 복지와 일치시키는, 확장 가능한 사전 대비 솔루션을 제공하기 위해.
• 실천 가능하고 구현 가능한 프레임워크를 통해 인공지능 개발의 정책 및 거버넌스 혁신을 촉진하기 위해.

제안 방법

• Windfall Clause는 정의된 기준을 초과하는 수익의 상당 부분을 기부하기 위한 법적으로 구속력 있는 사전 약속으로 구성된다.
• 기준은 인공지능 능력의 근본적이고 경제 전반에 영향을 미치는 발전 덕분에만 달성 가능한 수익으로 설정된다.
• 이 조건은 주주 계약이나 공적 약속 등의 법적 또는 계약적 수단을 통해 이행 가능하도록 설계되어 있다.
• 기부금은 세계적 공공재를 향해 향하며, 특히 인공지능 배포로 인한 잠재적 악영향을 완화하기 위한 데 사용된다.
• 이 프레임워크는 기존의 기업 기부 및 기후 리스크 약속을 모델로 삼았으며, 인공지능의 고유한 경제적 및 사회적 영향에 맞게 조정되었다.
• 저자들은 선도적인 인공지능 기업들이 자발적이지만 법적 구속력을 지닌 수단으로 이를 수용할 것을 주장한다.

실험 결과

연구 질문

• RQ1 어떻게 기술적 전환을 이끄는 인공지능에서 얻는 폭발적 수익을 기업들이 사회 전체와 공유하도록 유인할 수 있는가?
• RQ2 어떤 제도적 메커니즘이 인공지능 개발자들의 윤리 원칙을 이행 가능한 약속으로 전환할 수 있는가?
• RQ3 기초적인 돌파구를 이룬 인공지능 능력에서 발생하는 폭발적 수익은 어떻게 사회적 위험 완화와 세계적 공공재 지원을 위해 활용될 수 있는가?
• RQ4 기본적인 수익 기부에 대한 법적 및 실천적 경로는 무엇인가?
• RQ5 사전에 기업 수준에서 이행하는 약속이 기업의 이익을 장기적인 인간 복지와 효과적으로 일치시킬 수 있는가?

주요 결과

• Windfall Clause는 사회 전체의 복지를 위해 인공지능 폭발적 수익을 배분하는 실현 가능하고 확장 가능하며 이행 가능한 메커니즘을 제공한다.
• 이 조건은 오직 기술적 전환을 이끄는 인공지능 돌파구 덕분에만 달성 가능한 수익을 대상으로 하여 높은 영향력 있는 발전과의 관련성을 확보한다.
• 사전에 약속함으로써 기업은 공공의 복지에 대한 진정성 있는 의지를 신뢰할 수 있게 공표할 수 있으며, 이는 대중의 신뢰를 높인다.
• 자원을 잠재적 손해 완화를 위한 분야로 이관함으로써 이 프레임워크는 위험 완화를 지원한다.
• 이 제안은 다양한 법적 및 기업 거버넌스 체계에 적응 가능하도록 설계되어 실현 가능성의 증대를 도모한다.
• 저자들은 Windfall Clause를 자율적인 윤리 코드를 넘어서 인공지능의 사회적 책임을 제도화하는 데 핵심적인 단계로 위치시킨다.