[논문 리뷰] The Role of Cooperation in Responsible AI Development

Amanda Askell, Miles Brundage외 1명|arXiv (Cornell University)|2019. 07. 10.

Innovation, Sustainability, Human-Machine Systems참고 문헌 72인용 수 46

한 줄 요약

논문은 경쟁 압력이 책임 있는 AI 개발을 약화시킬 수 있음을 주장하고, 산업 협력을 촉진하여 더 안전하고 사회적으로 더 유익한 AI를 만들기 위한 다섯 가지 요인과 네 가지 전략을 제시한다.

ABSTRACT

In this paper, we argue that competitive pressures could incentivize AI companies to underinvest in ensuring their systems are safe, secure, and have a positive social impact. Ensuring that AI systems are developed responsibly may therefore require preventing and solving collective action problems between companies. We note that there are several key factors that improve the prospects for cooperation in collective action problems. We use this to identify strategies to improve the prospects for industry cooperation on the responsible development of AI.

연구 동기 및 목표

• 경쟁이 책임 있는 AI 개발을 약화시킬 수 있는 이유를 설명하고 이를 집단 행위 문제로 소개한다.
• 책임 있는 개발을 추구하는 AI 개발자 간의 협력을 개선하는 요인을 식별한다.
• 집단 행위 문제를 극복하고 더 안전하고 사회적으로 유익한 AI를 촉진하기 위한 잠재적 전략을 논의한다.

제안 방법

• 저자들은 책임 있는 AI 개발과 그 비용과 이점을 개념화한다.
• 그들은 경쟁 하에서의 인센티브와 선도 주자의 역학이 안전 투자에 어떤 영향을 미치는지 분석한다.
• 다섯 가지 협력 촉진 요인: 높은 신뢰, 공유된 상승, 낮은 노출, 낮은 이점, 그리고 공유된 하방 위험을 정의한다.
• 네 가지 실행 가능한 전략을 제안한다: 해로운 오해를 바로잡고, 공유 도전 과제에 협력하며, 적절한 감독을 강화하고, 윤리 및 안전 표준 준수를 유인한다.

실험 결과

연구 질문

• RQ1 책임 있는 AI 개발에 대한 경쟁 압력이 투자 인센티브에 어떤 영향을 미치는가?
• RQ2 책임 있는 AI 개발에서 AI 개발자 간의 협력 가능성을 높이는 요인은 무엇인가?
• RQ3 집단 행위 문제를 줄이고 더 안전하고 더 유익한 AI를 촉진하기 위한 전략은 무엇인가?
• RQ4 규제, 책임 또는 시장 힘이 사회적 복지에 인센티브를 더 잘 맞추는 조건은 무엇인가?

주요 결과

• 경쟁 압력은 안전성, 보안 및 사회적 영향에 대한 과소투자로 이어지는 집단 행위 문제를 만들 수 있다.
• 다섯 가지 요인이 협력 가능성을 높인다: 높은 신뢰, 공유된 상승, 낮은 노출, 낮은 이점, 그리고 공유된 하방 위험.
• 협력을 강화하는 네 가지 전략: 오해를 바로잡고, 공통 연구/공학 과제에서 협력하며, 적절한 감독을 강화하고, 윤리/안전 준수를 유인한다.
• 분석은 시장 힘, 책임 법규, 규제가 경쟁과 어떻게 상호 작용하여 책임 있는 AI 인센티브를 형성하는지 논의한다.