[論文レビュー] Explosive growth from AI automation: A review of the arguments

Ege Erdil, Tamay Besiroglu|arXiv (Cornell University)|Sep 20, 2023

Insurance, Mortality, Demography, Risk Management被引用数 7

ひとこと要約

この論文は、人間労働の広範な代替が可能な人工知能が、規模の拡大、AI労働力の急速な拡大、および迅速な自動化に起因する一時的効果の3つの主要メカニズムを分析することで、GDP成長率が10倍に加速するという爆発的経済成長を引き起こす可能性があるかどうかを評価している。その結果、理想的な条件下ではこのような成長が妥当であるが、規制、物理的ボトルネック、自動化の速度に関する未解決の不確実性のため、その結果に高い信頼を置くことはまだ正当ではない。

ABSTRACT

We examine whether substantial AI automation could accelerate global economic growth by about an order of magnitude, akin to the economic growth effects of the Industrial Revolution. We identify three primary drivers for such growth: 1) the scalability of an AI "labor force" restoring a regime of increasing returns to scale, 2) the rapid expansion of an AI labor force, and 3) a massive increase in output from rapid automation occurring over a brief period of time. Against this backdrop, we evaluate nine counterarguments, including regulatory hurdles, production bottlenecks, alignment issues, and the pace of automation. We tentatively assess these arguments, finding most are unlikely deciders. We conclude that explosive growth seems plausible with AI capable of broadly substituting for human labor, but high confidence in this claim seems currently unwarranted. Key questions remain about the intensity of regulatory responses to AI, physical bottlenecks in production, the economic value of superhuman abilities, and the rate at which AI automation could occur.

研究の動機と目的

• 人間労働の広範な代替が可能なAIシステムが、GDP成長率を10倍に加速するという爆発的経済成長を引き起こすかどうかを評価すること。
• このような成長の3つの主要要因である、規模の内部限定性、AI労働力の急速な拡大、および迅速な自動化に起因する一時的効果を評価すること。
• 規制的制約、物理的ボトルネック、アライメント問題、および自動化の遅れといった、爆発的成長を否定する9つの主要な反論を批判的に評価すること。
• 投資の遅延に対する感受性と耐性を焦点に、成長加速の定量的基盤を提供すること。
• 規制への対応、物理的限界、および超人的なAI能力の経済的価値に関する主要な未解決の問いを特定すること。

提案手法

• 一定および増加リターンの規模効果を仮定した成長理論モデルを用い、異なる仮定のもとでAGI以降の経済ダイナミクスをシミュレートする。
• 資本（K）、労働（L）、および全要素生産性（A）を含むネオクラスカル成長フレームワークを適用し、Cobb-Douglas生産関数 Y = A × K^α × L^(1−α) を使用する。
• 2017年から2019年の米国GDP、資本ストック、および労働投入量の歴史的データを用いて全要素生産性パラメータAを推定し、A ≈ 2337 $^{0.7}·workers^{-0.7}·year^{-1} を得た。
• 投資遅延を微分方程式系でモデル化し、実現投資Iが貯蓄sYに指数関数的に適合するようにし、忘却率ηを導入し、漸近的成長率を λ = η × [−1 + √(1 + 4As/η)] / 2 として導出する。
• 投資遅延の影響を、即時調整モデルと比較することで成長予測の耐性を評価し、η ≪ 2/3 year⁻¹ の場合、遅延による成長率低下は約40％にとどまることを示した。
• 9つの反論の力の程度を、定性的および定量的推論を用いて一時的に評価し、それらの妥当性と定量的明確性に焦点を当てた。

実験結果

リサーチクエスチョン

• RQ1 AI自動化が、世界的な経済成長を10倍に加速する条件は何か？
• RQ2 規模の内部限定性、急速なAI労働力の拡大、迅速な自動化が、爆発的成長ダイナミクスにどのように寄与するか？
• RQ3 規制的制約、物理的ボトルネック、または人間が人間が生産した商品を好む傾向が、AIによる爆発的成長の可能性をどの程度制限するか？
• RQ4 投資および資本蓄積の遅延に対して、成長予測はどの程度耐性を示すか？
• RQ5 爆発的成長仮説に高い信頼を置けない主要な未解決の不確実性は何か？

主な発見

• モデルは、貯蓄率sと1人あたり平均資本労働比c̄の積の0.7乗が約2.38×10⁻⁴を超える場合、年間0.3以上の爆発的成長（gy ≥ 0.3/year）を予測する。
• 投資遅延は、調整時間スケール（1/η）が18か月を超える場合を除き、成長率にわずかな影響しか与えない。通常の仮定のもとでは成長率はわずかに約40％低下するにとどまる。
• η = As の場合、ゴールデン比要因（1/φ ≈ 0.618）が投資遅延の保守的補正として現れ、遅延効果がAやsの不確実性に比べて定量的に小さいことを示している。
• 物理的限界、蓄積不可能な要因、または人間が人間が生産した商品を好む傾向といった、爆発的成長を否定する大多数の反論は、定量的明確性に欠け、潜在的な成長加速をしっかり束縛できない。
• AIの展開を制限する規制的または政治的連携が爆発的成長を防ぐ可能性があるが、分散化された参加者を長期間にわたり統制する必要があるため、強いインcentiveとAIトレーニングコストの低下を考えると、そのような連携は現実的ではないとされる。
• 論文は、人間労働の広範な代替が可能なAIシステムのもとでは爆発的成長が妥当であるが、規制、ボトルネック、自動化速度に関する未解決の不確実性のため、その主張に高い信頼を置くことはまだ正当ではないと結論づける。