[论文解读] Compute at Scale: A Broad Investigation into the Data Center Industry

Konstantin Pilz, Lennart Heim|arXiv (Cornell University)|Nov 5, 2023

Cloud Computing and Resource Management被引用 4

一句话总结

本文对全球数据中心产业进行了全面分析，探讨其基础设施、经济规模及其在支持大规模人工智能工作负载方面的作用。文章识别出电力消耗、冷却、连通性和安全性等关键驱动因素，并估算该行业的价值为2500亿美元，预计七年内将增长至5000亿美元，由美国、欧洲和中国的约500个大型数据中心支持。

ABSTRACT

This report characterizes the data center industry and its importance for AI development. Data centers are industrial facilities that efficiently provide compute at scale and thus constitute the engine rooms of today's digital economy. As large-scale AI training and inference become increasingly computationally expensive, they are dominantly executed from this designated infrastructure. Key features of data centers include large-scale compute clusters that require extensive cooling and consume large amounts of power, the need for fast connectivity both within the data center and to the internet, and an emphasis on security and reliability. The global industry is valued at approximately $250B and is expected to double over the next seven years. There are likely about 500 large (above 10 MW) data centers globally, with the US, Europe, and China constituting the most important markets. The report further covers important actors, business models, main inputs, and typical locations of data centers.

研究动机与目标

• 描述全球数据中心产业的结构、规模及其经济重要性。
• 分析大规模数据中心的技术和运营需求，包括电力、冷却和连通性。
• 识别主要市场区域、关键参与者和塑造产业的商业模式。
• 评估该产业作为大规模人工智能训练和推理基础基础设施的角色。
• 预测未来七年内数据中心容量和部署的投资趋势。

提出的方法

• 利用公开的行业数据和报告，对数据中心基础设施开展广泛的实证研究。
• 分析大规模数据中心在电力消耗、冷却系统和网络连通性方面的需求。
• 绘制全球主要市场中大型数据中心（容量超过10兆瓦）的地理分布。
• 评估商业模式和关键参与者，包括超大规模服务商和区域提供商。
• 基于行业来源的财务和运营基准，估算市场规模和增长。
• 将研究发现整合为关于数据中心运营及其在人工智能基础设施中作用的结构化概述。

实验结果

研究问题

• RQ1 当前全球数据中心产业的规模和经济价值是多少？
• RQ2 大规模数据中心的主要技术和运营需求是什么，包括电力、冷却和连通性？
• RQ3 哪些地区和国家拥有大部分大型数据中心，其市场主导地位由什么驱动？
• RQ4 商业模式和关键参与者如何塑造数据中心产业的演变？
• RQ5 未来七年内数据中心产业的增长轨迹如何？

主要发现

• 全球数据中心产业价值约为2500亿美元，预计七年内将翻倍。
• 全球约有500个大型数据中心，每个容量均超过10兆瓦。
• 美国、欧洲和中国是大规模数据中心部署最重要的市场。
• 数据中心是大规模人工智能训练和推理的关键基础设施，其发展由高算力需求推动。
• 主要运营挑战包括管理巨大的电力消耗、实施有效的冷却系统以及确保高速连通性。
• 安全性和可靠性是数据中心架构和运营中的核心设计优先事项。