[论文解读] When Will AI Exceed Human Performance? Evidence from AI Experts

Katja Grace, John Salvatier+3 more|arXiv (Cornell University)|May 24, 2017

Big Data and Business Intelligence参考文献 3被引用 222

一句话总结

本论文调查AI研究人员以预测在各任务和职业方面AI超越人类绩效的时间表，发现达到HLMI（50%概率）在45年内的概率为50%，并存在区域差异，许多里程碑预计在十年内。

ABSTRACT

Advances in artificial intelligence (AI) will transform modern life by reshaping transportation, health, science, finance, and the military. To adapt public policy, we need to better anticipate these advances. Here we report the results from a large survey of machine learning researchers on their beliefs about progress in AI. Researchers predict AI will outperform humans in many activities in the next ten years, such as translating languages (by 2024), writing high-school essays (by 2026), driving a truck (by 2027), working in retail (by 2031), writing a bestselling book (by 2049), and working as a surgeon (by 2053). Researchers believe there is a 50% chance of AI outperforming humans in all tasks in 45 years and of automating all human jobs in 120 years, with Asian respondents expecting these dates much sooner than North Americans. These results will inform discussion amongst researchers and policymakers about anticipating and managing trends in AI.

研究动机与目标

• 预测高水平机器智能（HLMI）以及对所有人类工作的自动化的时间线。
• 评估在特定任务和职业中AI超越人类表现的预期日期。
• 审视对AI安全、风险的看法，以及对降低风险研究的优先级的看法。

提出的方法

• 对在2015年于NIPS/ICML发表论文的研究人员的调查。
• 使用伽玛CDF拟合个体预测来引出信念。
• 通过混合分布进行聚合并使用自助法得到95%置信区间。
• 跨地区（例如亚洲与北美）及人口统计学因素的比较。
• 补充分析包括稳健性检验和对预测的框架效应分析。

实验结果

研究问题

• RQ1 HLMI在50%概率下何时到来？
• RQ2 AI在特定任务或职业中超越人类的预测日期是什么？
• RQ3 地区或人口统计因素是否系统性地改变AI时间线？
• RQ4 研究人员对AI安全和潜在极端结果的看法是什么？

主要发现

• 平均受访者预测HLMI在45年内达到50%概率。
• HLMI在9年内达到10%概率。
• 亚洲受访者预期HLMI更早（约30年）比北美人更早（约74年）。
• 全面自动化劳动的50%概率的平均估计为122年；20年内达到10%概率。
• 在HLMI两年后出现爆炸性进展的概率约为20%；在HLMI两年后爆炸性进展的概率为10%。
• 大约48%认为AI安全研究应比现状得到更多优先考虑。