[논문 리뷰] Treehouse: A Case For Carbon-Aware Datacenter Software

Thomas Anderson, Adam Belay외 3명|arXiv (Cornell University)|2022. 01. 06.

Cloud Computing and Resource Management인용 수 7

한 줄 요약

Treehouse는 에너지와 탄소를 일등 자원으로 간주함으로써 소프트웨어 중심의 프레임워크를 제안하여 데이터센터의 탄소 배출을 줄인다. 에너지 기원 추적, 성능-탄소 트레이드오프를 고려한 SLA 인터페이스, 분산된 컴퓨팅 및 스토리지 간에 세밀하고 효율적인 자원 할당을 위한 $μ$ 함수를 도입함으로써 지능적인 스케줄링과 시스템 수준 최적화를 통해 상당한 탄소 발자국 감소를 가능하게 한다.

ABSTRACT

The end of Dennard scaling and the slowing of Moore's Law has put the energy use of datacenters on an unsustainable path. Datacenters are already a significant fraction of worldwide electricity use, with application demand scaling at a rapid rate. We argue that substantial reductions in the carbon intensity of datacenter computing are possible with a software-centric approach: by making energy and carbon visible to application developers on a fine-grained basis, by modifying system APIs to make it possible to make informed trade offs between performance and carbon emissions, and by raising the level of application programming to allow for flexible use of more energy efficient means of compute and storage. We also lay out a research agenda for systems software to reduce the carbon footprint of datacenter computing.

연구 동기 및 목표

• 증가하는 계산 수요와 Dennard 스케일링의 종료로 인해 증가하는 데이터센터의 탄소 발자국을 해결하기 위해.
• 응용 프로그램 개발자가 자신의 소프트웨어 결정이 미치는 탄소 영향을 이해하고 최적화할 수 있도록 돕기 위해.
• 성능과 탄소 배출 간의 트레이드오프를 가능하게 하는 시스템 수준의 추상화를 제공하기 위해.
• 세밀한, 상호 교환 가능한 실행 단위($μ$ 함수)를 통해 이질적이고 분리된 데이터센터 아키텍처를 지원하기 위해.
• 클라우드, 엣지, 온프리미스 환경을 아우르는 데이터센터 탄소 배출을 줄이기 위한 시스템 소프트웨어 연구 계획을 수립하기 위해.

제안 방법

• 응용 프로그램 및 함수 수준에서 에너지와 탄소 사용을 추적하고 할당하기 위해 에너지 기원 추적을 도입한다.
• 시행 시한 제약 조건을 노출시켜 시스템 스케줄링에서 성능-탄소 트레이드오프를 가능하게 하는 SLA 인터페이스를 설계한다.
• 동적으로 교환 가능한 컴퓨팅 및 스토리지 자원에 매핑될 수 있는 세밀하고 상태 기반의 계산 단위로 $μ$ 함수를 제안한다.
• 성능 및 에너지 프로파일에 기반해 여러 컴퓨팅 노드와 스토리지 미디어 간에 $μ$ 함수를 스케줄링할 수 있도록 자원의 상호 교환 가능성을 보장한다.
• SLA를 충족하면서도 총 에너지 소비를 최소화하기 위해 다중 자원 흐름 기반 최적화를 적용하여 컴퓨팅 및 스토리지 배치를 공동 최적화한다.
• 시간 창을 기반으로 한 사전 스케줄링과 이타적 스케줄링 전략을 사용하여 작업 유연성을 활용하고 에너지 소비를 줄인다.

Figure 1: Application demands for energy is growing faster than energy efficiency improvements we can achieve. Treehouse takes a software-centric approach to reduce this gap.

실험 결과

연구 질문

• RQ1 공유된 데이터센터 환경에서 응용 프로그램 및 함수 수준에서 에너지와 탄소 사용을 어떻게 가시화하고 측정할 수 있는가?
• RQ2 개발자와 운영자가 성능과 탄소 배출 간의 정보 기반 트레이드오프를 위해 필요한 시스템 추상화는 무엇인가?
• RQ3 세밀하고 상호 교환 가능한 실행 단위($μ$ 함수)는 분리된 데이터센터에서 하드웨어 활용도를 향상시키고 에너지 낭비를 줄이는 데 어떻게 기여하는가?
• RQ4 어떤 스케줄링 전략이 응용 프로그램 SLA를 충족하면서도 탄소 배출를 최소화하기 위해 컴퓨팅 및 스토리지 자원 할당을 효과적으로 공동 최적화할 수 있는가?
• RQ5 응용 프로그램 워크로드의 시간적 탄력성을 어떻게 활용하여 지능적이고 에너지 인식 스케줄링을 통해 에너지 소비를 줄일 수 있는가?

주요 결과

• 현재 데이터센터에서 에너지와 탄소 사용은 응용 프로그램 개발자에게 가시성이 없으며, 설계 선택의 환경적 영향을 평가할 수 있는 도구가 부족하다.
• Dennard 스케일링의 종료와 모어의 법칙 둑화로 인해 에너지 효율성 향상은 더 이상 자동으로 이루어지지 않으며, 이에 따라 소프트웨어 기반 솔루션이 필요하다.
• 다중 자원 흐름 수식을 사용하여 상호 교환 가능한 컴퓨팅 및 메모리 자원을 공동 최적화함으로써, SLA를 준수하면서 총 에너지 소비를 최소화할 수 있다.
• 사전 스케줄링과 이타적 전략을 사용한 시간 창 기반 스케줄링은 워크로드의 탄력성을 활용하여 에너지 소비와 탄소 배출를 줄이는 데 기여한다.
• $μ$ 함수 추상화는 액세스 패턴, 시한, 에너지 프로파일에 기반해 워크로드를 최적의 하드웨어 자원에 동적으로 매핑할 수 있도록 한다.
• 에너지 인식 스케줄링은 저탄소 에너지 자원을 우선 배정하고 비긴급 워크로드를 재생 가능 에너지 가용성이 높은 시기로 연기함으로써 상당한 탄소 감소를 달성할 수 있다.

Figure 2: Treehouse focuses on reducing the carbon footprint for tasks with sub-second SLAs. Due to these latency constraints, the energy optimizations available are those within the same datacenter. Prior work has considered relocating batch jobs (e.g., analytics) to datacenters with greener source