[논문 리뷰] When Will AI Exceed Human Performance? Evidence from AI Experts

Katja Grace, John Salvatier외 3명|arXiv (Cornell University)|2017. 05. 24.

Big Data and Business Intelligence참고 문헌 3인용 수 222

한 줄 요약

본 논문은 AI 연구자들을 대상으로 AI가 인간의 성능을 능가하는 시점의 타임라인을 예측하도록 조사한 결과, HLMI가 45년 내 50% 확률로 도달할 가능성과 지역 간 차이가 있으며, 많은 이정표가 10년 내에 기대된다.

ABSTRACT

Advances in artificial intelligence (AI) will transform modern life by reshaping transportation, health, science, finance, and the military. To adapt public policy, we need to better anticipate these advances. Here we report the results from a large survey of machine learning researchers on their beliefs about progress in AI. Researchers predict AI will outperform humans in many activities in the next ten years, such as translating languages (by 2024), writing high-school essays (by 2026), driving a truck (by 2027), working in retail (by 2031), writing a bestselling book (by 2049), and working as a surgeon (by 2053). Researchers believe there is a 50% chance of AI outperforming humans in all tasks in 45 years and of automating all human jobs in 120 years, with Asian respondents expecting these dates much sooner than North Americans. These results will inform discussion amongst researchers and policymakers about anticipating and managing trends in AI.

연구 동기 및 목표

• 고수준 기계지능(HLMI) 및 모든 인간 직업의 자동화에 대한 타임라인 예측.
• 특정 작업 및 직업에서 AI가 인간의 성능을 능가하는 예상 시점을 평가.
• AI 안전성, 위험성에 대한 인식과 위험 최소화 연구의 우선순위를 검토.

제안 방법

• 2015년에 NIPS/ICML에 발표한 연구자를 대상으로 한 설문조사.
• 개별 예측에 감마 CDF 적합을 이용한 신념 추정.
• 혼합 분포를 통한 집계 및 부트스트랩 95% 구간.
• 지역별(예: 아시아 vs 북미) 및 인구통계학적 특성 간 비교.
• 보충 분석에는 견고성 검토와 예측에 대한 프레이밍 효과가 포함된다.

실험 결과

연구 질문

• RQ1 HLMI가 50% 확률로 도달할 시점은 언제인가?
• RQ2 AI가 특정 작업이나 직업에서 인간을 능가할 것으로 예측되는 시점은 언제인가?
• RQ3 지역적 또는 인구통계학적 요인이 AI 타임라인에 체계적으로 영향을 미치는가?
• RQ4 연구자들의 AI 안전성과 잠재적 극단적 결과에 대한 견해는 무엇인가?

주요 결과

• 평균 응답자는 HLMI가 50% 확률로 45년 이내 도달할 것으로 예측했다.
• HLMI가 9년 이내 도달할 확률은 10%이다.
• 아시아 응답자들은 HLMI가 더 빨리 도달할 것으로 기대하는데(대략 30년), 북미 응답자들(대략 74년)보다 빠르다.
• 노동의 전면 자동화가 50% 확률로 도달하는 평균 추정은 122년; 20년 내 10% 확률.
• HLMI로부터 2년 후 폭발적 개선의 확률은 약 20%; HLMI로부터 2년 후 폭발적 진전의 확률은 10%.
• 약 48%가 AI 안전 연구의 우선순위를 현상보다 더 높여야 한다고 생각한다.