[논문 리뷰] Explosive growth from AI automation: A review of the arguments

Ege Erdil, Tamay Besiroglu|arXiv (Cornell University)|2023. 09. 20.

Insurance, Mortality, Demography, Risk Management인용 수 7

한 줄 요약

이 논문은 인간의 노동을 광범위하게 대체할 수 있는 인공지능이 증명된 규모의 경제 성장을 유도할 수 있는지 평가한다. 이는 규모의 경제 증가, AI 노동력의 급속한 확장, 빠른 자동화에서 발생하는 일시적 효과라는 세 가지 핵심 메커니즘을 분석함으로써 이루어지며, 규제, 물리적 제약, 자동화 속도에 대한 불확실성이 해결되지 않은 이상 이러한 결과에 대해 높은 신뢰를 두기 어렵다는 결론을 내린다.

ABSTRACT

We examine whether substantial AI automation could accelerate global economic growth by about an order of magnitude, akin to the economic growth effects of the Industrial Revolution. We identify three primary drivers for such growth: 1) the scalability of an AI "labor force" restoring a regime of increasing returns to scale, 2) the rapid expansion of an AI labor force, and 3) a massive increase in output from rapid automation occurring over a brief period of time. Against this backdrop, we evaluate nine counterarguments, including regulatory hurdles, production bottlenecks, alignment issues, and the pace of automation. We tentatively assess these arguments, finding most are unlikely deciders. We conclude that explosive growth seems plausible with AI capable of broadly substituting for human labor, but high confidence in this claim seems currently unwarranted. Key questions remain about the intensity of regulatory responses to AI, physical bottlenecks in production, the economic value of superhuman abilities, and the rate at which AI automation could occur.

연구 동기 및 목표

• 인간의 노동을 광범위하게 대체할 수 있는 AI 시스템이 GDP 성장률을 10배로 끌어올릴 수 있는지 평가하는 것.
• 이러한 성장을 이끄는 세 핵심 요인인 규모의 경제 증가, AI 노동력의 급속한 확장, 빠른 자동화에서 비롯하는 일시적 효과를 평가하는 것.
• 규제 제약, 물리적 제약, 정렬 문제, 자동화 속도가 느린 것과 같은 폭발적 성장에 반대되는 9가지 주요 반론을 비판적으로 평가하는 것.
• 투자 지연에 대한 민감도와 강건성을 중심으로 성장 가속도 평가를 위한 정량적 기반을 제공하는 것.
• 규제 대응, 물리적 한계, 초인간적 AI 능력의 경제적 가치와 관련된 주요 미해결 질문을 규명하는 것.

제안 방법

• 일정한 규모의 경제와 증가하는 규모의 경제를 고려한 성장 이론 모델을 사용하여, 다양한 가정 하에 AGI 이후 경제 역학을 시뮬레이션한다.
• 자본(K), 노동(L), 총요소생산성(A)을 포함한 네오클래식 성장 프레임워크를 적용하며, 코브-더거스 생산함수를 사용한다: Y = A × K^α × L^(1−α).
• 2017~2019년 기간의 역사적 미국 GDP, 자본 잔여량, 노동 투입 데이터를 바탕으로 총요소생산성 파rameter A를 추정하여 A ≈ 2337 $^{0.7}·workers^{-0.7}·year^{-1}를 도출한다.
• 투자 지연을 미분방정식 시스템을 통해 모델링하며, 실현된 투자 I가 저축 sY로 지수적으로 조정되며 기억 상실률 η를 갖는다. 이때 점근적 성장률은 λ = η × [−1 + √(1 + 4As/η)] / 2로 유도된다.
• 지연된 투자 모델과 즉각 조정 모델을 비교하여 성장 예측의 강건성을 평가하며, η ≪ 2/3 year⁻¹일 경우 지연이 성장률을 약 40%만 감소시킨다는 것을 보여준다.
• 질적 및 정량적 추론을 바탕으로 9가지 반론의 영향력을 일시적으로 평가하며, 그 타당성과 정량적 구체성을 중심으로 분석한다.

실험 결과

연구 질문

• RQ1 AI 자동화가 세계 경제 성장을 10배로 끌어올릴 수 있는 조건은 무엇인가?
• RQ2 규모의 경제 증가, 빠른 AI 노동력 증가, 빠른 자동화가 폭발적 성장 역학에 어떻게 기여하는가?
• RQ3 규제 제약, 물리적 제약, 또는 인간이 인간이 만든 제품을 선호하는 경향 등이 AI에서 기인하는 폭발적 성장 잠재력에 얼마나 제한을 둘 수 있는가?
• RQ4 투자 및 자본 축적의 지연에 대해 성장 예측은 얼마나 강건한가?
• RQ5 폭발적 성장 가설에 대해 높은 신뢰를 갖기 어렵게 만드는 주요 미해결 불확실성은 무엇인가?

주요 결과

• 모델은 s·c̄^(-0.7)의 곱이 약 2.38×10⁻⁴를 초과할 경우 폭발적 성장(gy ≥ 0.3/year)을 예측한다. 여기서 s는 저축률, c̄는 노동자당 평균 자본-노동비율이다.
• 투자 지연은 조정 시간 척도(1/η)가 18개월을 초과하지 않는 한 성장률에 미미한 영향을 미친다. 일반적인 가정 하에서는 성장률이 약 40%만 감소한다.
• 황금비율 인자(1/φ ≈ 0.618)는 η = As일 경우 투자 지연을 보수적으로 조정하는 데 사용되며, 이는 지연 효과가 A와 s의 불확실성에 비해 정량적으로 미미하다는 것을 시사한다.
• 물리적 한계, 축적 불가능한 요소, 인간이 인간이 만든 제품을 선호하는 경향 등 대부분의 폭발적 성장 반론은 정량적 구체성이 결여되어 있으며, 잠재적 성장 가속도를 강력하게 제한하지 못한다.
• AI 배포를 제한하기 위한 규제나 정치적 협력은 폭발적 성장을 방지할 수 있지만, 분산된 주체들을 장기간 통제할 수 있는 글로벌 협력은 강력한 유인과 함께 AI 훈련 비용 감소에 비해 현실적으로 불가능하다고 간주된다.
• 논문은 인간의 노동을 광범위하게 대체할 수 있는 AI 시스템 하에서 폭발적 성장이 가능하다고 결론내리지만, 규제, 제약, 자동화 속도에 대한 해결되지 않은 불확실성이 존재하므로 이에 대한 높은 신뢰는 여전히 부족하다.