[논문 리뷰] Towards the Systematic Reporting of the Energy and Carbon Footprints of Machine Learning

Peter Henderson, Jie‐Ru Hu외 4명|arXiv (Cornell University)|2020. 01. 31.

Green IT and Sustainability인용 수 306

한 줄 요약

논문은 실시간 에너지, 컴퓨트 및 탄소 회계에 대한 경량 모듈형 프레임워크(experiment-impact-tracker)를 제시하고, 사례 연구를 통해 활용을 입증하며, 에너지 리더보드 및 지역화된 테스트와 같은 관행을 통해 배출량을 줄일 것을 권고한다.

ABSTRACT

Accurate reporting of energy and carbon usage is essential for understanding the potential climate impacts of machine learning research. We introduce a framework that makes this easier by providing a simple interface for tracking realtime energy consumption and carbon emissions, as well as generating standardized online appendices. Utilizing this framework, we create a leaderboard for energy efficient reinforcement learning algorithms to incentivize responsible research in this area as an example for other areas of machine learning. Finally, based on case studies using our framework, we propose strategies for mitigation of carbon emissions and reduction of energy consumption. By making accounting easier, we hope to further the sustainable development of machine learning experiments and spur more research into energy efficient algorithms.

연구 동기 및 목표

• ML 연구에서 정확하고 체계적인 에너지 및 탄소 회계의 필요성을 촉구한다.
• 실험당 에너지, 컴퓨트 및 탄소 발자국을 추적하기 위한 경량의 확장 가능한 프레임워크를 제안한다.
• 경험적 연구를 통해 프레임워크를 입증하고 완화 및 보고 권고를 도출한다.

제안 방법

• CPU/GPU, 파이썬 환경, 전력 도구로부터 메트릭을 수집하는 모듈형 데이터 라우터로서 experiment-impact-tracker를 소개한다; 추적 데이터를 바탕으로 온라인 부록을 생성한다.
• etotal = PUE × Σ(pdramedram + pcpuecpu + pgpuegpu)로 총 에너지를 계산하여 공유 하드웨어에서 프로세스별 에너지를 할당한다.
• 지역 그리드 데이터(e.g., electricitymap) 및 CAISO 실시간 데이터를 통해 탄소 강도를 수집하고 CO2eq 배출량을 계산한다.
• 각 실험에 대한 탄소 영향 진술(사회적 탄소 비용 포함)과 자동화된 웹 기반 부록을 제공한다.
• 에너지 효율적 RL 방법에 인센티브를 주기 위한 RL 에너지 리더보드를 강조한다.
• 다른 아키텍처 간에는 FLOPs(FPOs)가 에너지 사용을 신뢰성 있게 예측하지 못하며, 같은 아키텍처 내에서 더 강한 상관관계가 있음을 보인다.

실험 결과

연구 질문

• RQ1 ML 실험을 경량화되고 재현 가능한 방식으로 에너지 및 탄소 영향 측정에 어떻게 연결할 수 있는가?
• RQ2 일반적인 효율성 지표(FLOPs 등)가 아키텍처 간 및 아키텍처 내 실제 에너지 소비와 어떤 상관관계를 보이는가?
• RQ3 ML 연구에서 에너지 사용 및 배출량을 줄일 수 있는 실용적 전략(리더보드, 지역 테스트, 재현성 관행)은 무엇인가?

주요 결과

• 프레임워크는 에너지, CPU/GPU 전력 소모, 프로세스별 자원 귀속 자동 로깅 및 온라인 부록 생성을 쉽게 지원한다.
• 아키텍처 간에 FLOPs는 에너지나 런타임과 강하게 상관되지 않으며, 같은 아키텍처 내에서는 FLOPs가 에너지 및 시간과 강한 상관을 보인다(VGG의 예에서 R2≈1.0).
• 그들의 실험에서 구체적인 탄소 발자국 예가 보고되었는데: 8.021 kg CO2eq 및 24.344 kWh 소비, 미국 지역의 사회적 탄소 비용은 $0.38이다.
• 지역별 탄소 강도는 CO2 배출량에 큰 차이를 일으킬 수 있다; RL 실험에서 배출량은 지역에 따라 다를 수 있으며 그리드 구성에 따라 최대 30배 차이가 날 수 있다.
• 프레임워크는 체계적 변화의 필요성을 옹호한다: 에너지 효율 리더보드, 실험을 위한 탄소 친화적 지역 선택, 오버헤드 감소, 에너지-성과의 절충, 에너지 및 탄소 지표의 일관된 보고.