[논문 리뷰] Compute at Scale: A Broad Investigation into the Data Center Industry

Konstantin Pilz, Lennart Heim|arXiv (Cornell University)|2023. 11. 05.

Cloud Computing and Resource Management인용 수 4

한 줄 요약

이 논문은 글로벌 데이터센터 산업의 인프라, 경제적 규모, 대규모 AI 워크로드를 가능하게 하는 역할을 종합적으로 분석한다. 전력 소비, 냉각, 연결성, 보안과 같은 주요 요인을 규명하고, 산업의 가치를 약 2500억 달러로 추정하며, 향후 7년 내에 5000억 달러로 성장할 것으로 전망한다. 이는 미국, 유럽, 중국에 걸쳐 약 500개의 대규모 데이터센터를 바탕으로 한다.

ABSTRACT

This report characterizes the data center industry and its importance for AI development. Data centers are industrial facilities that efficiently provide compute at scale and thus constitute the engine rooms of today's digital economy. As large-scale AI training and inference become increasingly computationally expensive, they are dominantly executed from this designated infrastructure. Key features of data centers include large-scale compute clusters that require extensive cooling and consume large amounts of power, the need for fast connectivity both within the data center and to the internet, and an emphasis on security and reliability. The global industry is valued at approximately $250B and is expected to double over the next seven years. There are likely about 500 large (above 10 MW) data centers globally, with the US, Europe, and China constituting the most important markets. The report further covers important actors, business models, main inputs, and typical locations of data centers.

연구 동기 및 목표

• 글로벌 데이터센터 산업의 구조, 규모, 경제적 의의를 규명하기 위해.
• 대규모 데이터센터의 기술적 및 운영적 요구사항(전력, 냉각, 연결성 포함)을 분석하기 위해.
• 주요 시장 지역, 주요 플레이어, 산업을 이끄는 비즈니스 모델을 특정하기 위해.
• 대규모 AI 학습 및 추론을 위한 기초 인프라로서 산업의 역할을 평가하기 위해.
• 향후 7년간의 데이터센터 용량 및 배치에 대한 투자 추세와 성장 전망을 예측하기 위해.

제안 방법

• 공개된 산업 데이터 및 보고자료를 활용해 데이터센터 인프라에 대한 광범위한 실증적 조사 수행.
• 대규모 데이터센터의 전력 소비, 냉각 시스템, 네트워크 연결성 요구사항 분석.
• 주요 글로벌 시장에서 대규모 데이터센터(10MW 이상)의 지리적 분포 매핑.
• 하이퍼스케일러 및 지역 공급자 포함 비즈니스 모델과 주요 참여자 평가.
• 산업 자료의 재무 및 운영 기준을 활용해 시장 규모와 성장 추정.
• 산업 자료의 통합된 통찰을 기반으로 데이터센터 운영의 체계적 개요 및 AI 인프라 내 역할 정리.

실험 결과

연구 질문

• RQ1 현재 글로벌 데이터센터 산업의 규모와 경제적 가치는 어느 정도인가요?
• RQ2 대규모 데이터센터의 주요 기술적 및 운영적 요구사항(전력, 냉각, 연결성 포함)은 무엇인가요?
• RQ3 대규모 데이터센터의 대부분을 차지하는 지역과 국가들은 어디이며, 그 시장 지배력의 주요 원인은 무엇인가요?
• RQ4 비즈니스 모델과 주요 플레이어는 데이터센터 산업의 진화에 어떻게 영향을 미치나요?
• RQ5 향후 7년간 데이터센터 산업의 성장 전망은 어떠한가요?

주요 결과

• 글로벌 데이터센터 산업은 약 2500억 달러로 평가되며, 향후 7년 내에 가치가 두 배로 증가할 것으로 전망된다.
• 전 세계적으로 약 500개의 대규모 데이터센터가 존재할 가능성이 있으며, 각각의 용량은 10메가와트를 초과한다.
• 미국, 유럽, 중국은 대규모 데이터센터 구축에 있어 가장 중요한 시장으로 나타난다.
• 고성능 컴퓨팅 수요로 인해 데이터센터는 대규모 AI 학습 및 추론을 위한 필수 기반 인프라이다.
• 주요 운영 과제로는 막대한 전력 소비 관리, 효과적인 냉각 시스템 구현, 고속 연결성 확보가 있다.
• 보안과 신뢰성은 데이터센터 아키텍처 및 운영 설계의 핵심 우선 사항이다.