[论文解读] Explosive growth from AI automation: A review of the arguments

Ege Erdil, Tamay Besiroglu|arXiv (Cornell University)|Sep 20, 2023

Insurance, Mortality, Demography, Risk Management被引用 7

一句话总结

本文评估了具备广泛替代人类劳动力能力的人工智能是否可能通过分析三种关键机制——规模报酬递增、人工智能劳动力的快速扩张以及快速自动化带来的暂时性影响——引发十倍加速的经济增长（即GDP增长率提升十倍）。研究发现，在理想条件下这种增长是可能的，但由于监管、物理瓶颈和自动化速度等方面的未解不确定性，仍无法对此结果抱有高度信心。

ABSTRACT

We examine whether substantial AI automation could accelerate global economic growth by about an order of magnitude, akin to the economic growth effects of the Industrial Revolution. We identify three primary drivers for such growth: 1) the scalability of an AI "labor force" restoring a regime of increasing returns to scale, 2) the rapid expansion of an AI labor force, and 3) a massive increase in output from rapid automation occurring over a brief period of time. Against this backdrop, we evaluate nine counterarguments, including regulatory hurdles, production bottlenecks, alignment issues, and the pace of automation. We tentatively assess these arguments, finding most are unlikely deciders. We conclude that explosive growth seems plausible with AI capable of broadly substituting for human labor, but high confidence in this claim seems currently unwarranted. Key questions remain about the intensity of regulatory responses to AI, physical bottlenecks in production, the economic value of superhuman abilities, and the rate at which AI automation could occur.

研究动机与目标

• 评估具备广泛替代人类劳动力能力的人工智能系统是否可能引发爆炸性经济增长，定义为GDP增长率提升十倍。
• 评估此类增长的三个核心驱动力：规模报酬递增、人工智能劳动力的快速扩张，以及快速自动化带来的暂时性影响。
• 批判性评估九项针对爆炸性增长的主要反论点，包括监管约束、物理瓶颈、对齐问题以及自动化速度缓慢等。
• 为评估增长加速提供定量基础，重点关注参数敏感性及对投资延迟的稳健性。
• 识别关于监管响应、物理极限以及超人类人工智能能力经济价值的关键开放性问题。

提出的方法

• 使用具有恒定和递增规模报酬的经济增长理论模型，模拟在不同假设下通用人工智能（AGI）之后的经济动态。
• 采用包含资本（K）、劳动力（L）和全要素生产率（A）的索洛增长框架，使用Cobb-Douglas生产函数：Y = A × K^α × L^(1−α)。
• 利用2017–2019年美国历史GDP、资本存量和劳动力投入数据估算全要素生产率参数A，得出A ≈ 2337 $^{0.7}·workers^{-0.7}·year^{-1}$。
• 通过微分方程组建模投资延迟，其中实际投资I以遗忘率η指数调整至储蓄sY，推导出渐近增长率λ = η × [−1 + √(1 + 4As/η)] / 2。
• 通过比较延迟投资模型与瞬时调整模型，评估增长预测的稳健性，结果表明：若η ≪ 2/3年⁻¹，延迟仅使增长率降低约40%。
• 初步通过定性和定量推理评估九项反论点的力度，重点关注其合理性与定量明确性。

实验结果

研究问题

• RQ1 在何种条件下，人工智能自动化可能导致全球经济增速实现十倍加速？
• RQ2 规模报酬递增、人工智能劳动力的快速扩张以及快速自动化如何共同促成爆炸性增长动态？
• RQ3 监管约束、物理瓶颈或人类对人工制品的偏好在多大程度上限制了人工智能带来的爆炸性增长潜力？
• RQ4 增长预测对投资和资本积累延迟的敏感性如何？
• RQ5 哪些关键未解不确定性阻碍了对爆炸性增长假说的高可信度判断？

主要发现

• 当s·c̄^(-0.7)超过约2.38×10⁻⁴时，模型预测将出现爆炸性增长（gy ≥ 0.3/年），其中s为储蓄率，c̄为人均资本-劳动比。
• 除非调整时间尺度（1/η）超过18个月，投资延迟对增长率的影响较小；在典型假设下，增长率仅降低约40%。
• 当η = As时，黄金分割因子（1/φ ≈ 0.618）可作为投资延迟的保守调整系数，表明延迟效应在数量上远小于A和s的不确定性。
• 大多数反对爆炸性增长的论点——如物理极限、不可积累因素或人类对人工制品的偏好——缺乏定量明确性，且无法稳健地限制潜在的增长加速。
• 若监管或政治协调机制限制人工智能部署，可能阻止爆炸性增长，但此类协调需对分布式主体实现持续的全球控制，鉴于人工智能训练成本持续下降，这种可能性被认为较低。
• 本文结论认为，在具备广泛替代人类劳动力能力的人工智能系统下，爆炸性增长是可能的，但鉴于监管、瓶颈和自动化速度等方面的未解不确定性，仍无法对此结论抱有高度信心。