[논문 리뷰] Forecasting Transformative AI: An Expert Survey

Ross Gruetzemacher, David Paradice외 1명|arXiv (Cornell University)|2019. 01. 24.

Big Data Technologies and Applications참고 문헌 11인용 수 3

한 줄 요약

이 전문가 설문 조사는 2018년 ICML, IJCAI 및 HLAI 컨퍼런스에 참석한 인공지능 연구자들을 대상으로 한 설문을 통해 변혁적 인공지능의 시기를 예측한다. 연구 결과, 25년 내에 인공지능이 인간의 90퍼센트 작업을 자동화할 가능성이 50퍼센트이며, 50년 내에는 99퍼센트의 작업이 자동화될 것으로 예측된다. 특히 HLAI 참석자들은 더 이르고 낙관적인 시기 예측을 보였으며, 이는 변혁적 인공지능 영향에 대비한 정책 수립의 필요성을 강조한다.

ABSTRACT

Transformative AI technologies have the potential to reshape critical aspects of society in the near future. However, in order to properly prepare policy initiatives for the arrival of such technologies accurate forecasts and timelines are necessary. A survey was administered to attendees of three AI conferences during the summer of 2018 (ICML, IJCAI and the HLAI conference). The survey included questions for estimating AI capabilities over the next decade, questions for forecasting five scenarios of transformative AI and questions concerning the impact of computational resources in AI research. Respondents indicated a median of 21.5% of human tasks (i.e., all tasks that humans are currently paid to do) can be feasibly automated now, and that this figure would rise to 40% in 5 years and 60% in 10 years. Median forecasts indicated a 50% probability of AI systems being capable of automating 90% of current human tasks in 25 years and 99% of current human tasks in 50 years. The conference of attendance was found to have a statistically significant impact on all forecasts, with attendees of HLAI providing more optimistic timelines with less uncertainty. These findings suggest that AI experts expect major advances in AI technology to continue over the next decade to a degree that will likely have profound transformative impacts on society.

연구 동기 및 목표

• 현재 인간의 대부분의 작업을 자동화할 수 있는 변혁적 인공지능 시스템의 도래 시기를 예측하기 위해.
• 다음 10년 이상의 기간 동안 전문가들이 인공지능 능력에 대해 어떻게 평가하고 있는지 평가하기 위해.
• 컨퍼런스 참석 여부가 예측된 시기와 불확실성에 미치는 영향을 분석하기 위해.
• 변혁적 인공지능 영향에 대비한 정책 및 사회적 준비를 위한 정보를 제공하기 위해.

제안 방법

• 2018년 여름에 ICML, IJCAI 및 HLAI 컨퍼런스에 참석한 인공지능 연구자들을 대상으로 설문 조사를 실시하였다.
• 5년, 10년, 25년, 50년 이내의 인간 작업 자동화 능력에 대한 전망을 수집하였다.
• 중위수 추정치를 사용하여 90퍼센트 및 99퍼센트의 인간 작업 자동화 달성 확률을 결정하였다.
• 컨퍼런스 유형(HLAI 대비 ICML/IJCAI)이 예측된 시기와 불확실성에 미치는 영향을 분석하였다.
• 다른 컨퍼런스 유형 간 예측 차이의 유의미성을 평가하기 위해 통계적 검정을 실시하였다.
• 주요 예측 지점에 대해 신뢰구간과 효과 크기를 포함하여 결과를 보고하였다.

실험 결과

연구 질문

• RQ1 전문가 예측에 따르면, 인공지능 시스템이 현재 인간의 90퍼센트 작업을 자동화할 수 있는 시기는 언제인가요?
• RQ2 인간 작업의 99퍼센트 자동화에 대한 예측 시기는 언제이며, 전문가들은 이에 대해 얼마나 확신을 가지고 있나요?
• RQ3 HLAI 컨퍼런스 참석자들의 예측은 ICML 및 IJCAI 참석자들과 비교해 시간과 불확실성 측면에서 어떻게 다릅니까?
• RQ4 현재 인간 작업의 자동화 가능성 수준은 어느 정도이며, 5년과 10년 내로 어떻게 변화할 것으로 예상되나요?
• RQ5 전문가들의 컨퍼런스 소속이 변혁적 인공지능 시기 예측에 얼마나 영향을 미치나요?

주요 결과

• 전문가들은 오늘날 모든 인간 작업의 자동화 가능성을 21.5퍼센트로 평가하며, 5년 내에는 40퍼센트, 10년 내에는 60퍼센트로 증가할 것으로 전망한다.
• 중위수 예측에 따르면, 2045년(2018년으로부터 25년 후)까지 인공지능이 90퍼센트의 인간 작업을 자동화할 가능성이 50퍼센트로 예측된다.
• 중위수 예측에 따르면, 2070년(2018년으로부터 50년 후)까지 인간 작업의 99퍼센트 자동화 가능성이 50퍼센트로 예측된다.
• HLAI 컨퍼런스 참석자들은 ICML 및 IJCAI 참석자들보다 유의미하게 더 낙관적인 예측을 내놓았으며, 불확실성도 낮았다.
• 컨퍼런스 유형은 모든 예측 시기의 결과에 통계적으로 유의미한 영향을 미쳤으며, 전문가 집단 간 기대치의 차이를 보여주었다.
• 설문 조사 결과는 변혁적 인공지능 영향이 향후 수십 년 내로 나타날 것으로 예상되며, 사전 정책 계획이 필수적임을 시사한다.