[论文解读] Forecasting Transformative AI: An Expert Survey

Ross Gruetzemacher, David Paradice+1 more|arXiv (Cornell University)|Jan 24, 2019

Big Data Technologies and Applications参考文献 11被引用 3

一句话总结

本专家调查通过在2018年ICML、IJCAI和HLAI会议上对人工智能研究人员进行问卷调查，预测了变革性人工智能的出现时间。研究发现，有50%的把握认为AI将在25年内自动化90%的人类任务，50年内自动化99%的人类任务，其中HLAI与会者预测的时间更早、更为乐观，凸显了针对变革性AI影响开展政策规划的必要性。

ABSTRACT

Transformative AI technologies have the potential to reshape critical aspects of society in the near future. However, in order to properly prepare policy initiatives for the arrival of such technologies accurate forecasts and timelines are necessary. A survey was administered to attendees of three AI conferences during the summer of 2018 (ICML, IJCAI and the HLAI conference). The survey included questions for estimating AI capabilities over the next decade, questions for forecasting five scenarios of transformative AI and questions concerning the impact of computational resources in AI research. Respondents indicated a median of 21.5% of human tasks (i.e., all tasks that humans are currently paid to do) can be feasibly automated now, and that this figure would rise to 40% in 5 years and 60% in 10 years. Median forecasts indicated a 50% probability of AI systems being capable of automating 90% of current human tasks in 25 years and 99% of current human tasks in 50 years. The conference of attendance was found to have a statistically significant impact on all forecasts, with attendees of HLAI providing more optimistic timelines with less uncertainty. These findings suggest that AI experts expect major advances in AI technology to continue over the next decade to a degree that will likely have profound transformative impacts on society.

研究动机与目标

• 预测能够自动化大部分人类任务的变革性AI系统的时间表。
• 评估专家对未来十年及更长时间内AI能力的看法。
• 研究参会会议类型对预测时间表和不确定性的影响力。
• 为应对变革性AI影响提供政策与社会准备的依据。

提出的方法

• 在2018年夏季对参加ICML、IJCAI和HLAI会议的AI研究人员进行了调查。
• 收集了关于AI在5年、10年、25年和50年时间范围内自动化人类任务能力的预测。
• 使用中位数估计值来确定实现90%和99%人类任务自动化的概率。
• 分析了会议类型（HLAI与ICML/IJCAI）对预测时间表和不确定性的影响力。
• 采用统计检验评估不同会议类型之间预测差异的显著性。
• 以置信区间和效应量报告关键预测里程碑的结果。

实验结果

研究问题

• RQ1 根据专家估计，AI系统将在何时具备自动化90%当前人类任务的能力？
• RQ2 AI实现99%人类任务自动化的预期时间表是什么？专家对此的确定性如何？
• RQ3 HLAI会议与会专家的预测与ICML和IJCAI与会专家相比，在时间预测和不确定性方面有何差异？
• RQ4 当前人类任务自动化的可行性水平如何？预计在未来5年和10年内将如何演变？
• RQ5 专家的会议隶属关系在多大程度上影响了其对变革性AI时间表的预测？

主要发现

• 专家估计，当前自动化所有人类任务的可行性为21.5%，五年后上升至40%，十年后达到60%。
• 中位数预测显示，到2045年（2018年起25年后），AI有50%的概率实现90%人类任务的自动化。
• 中位数预测表明，到2070年（2018年起50年后），AI有50%的概率实现99%人类任务的自动化。
• HLAI会议与会者提供的预测显著更乐观，且不确定性更低。
• 会议类型对所有预测时间表均有统计学上的显著影响，表明不同专家群体的预期存在差异。
• 调查结果表明，变革性AI的影响预计将在未来几十年内出现，亟需开展前瞻性政策规划。