[논문 리뷰] Towards the Systematic Reporting of the Energy and Carbon Footprints of Machine Learning

Peter Henderson, Jieru Hu외 4명|arXiv (Cornell University)|2020. 01. 31.

Energy, Environment, and Transportation Policies참고 문헌 73인용 수 174

한 줄 요약

이 논문은 ML 연구에서 에너지 사용과 탄소 배출의 재현 가능한 보고를 쉽게 하기 위한 experiment-impact-tracker 프레임워크를 도입하고, Reinforcement Learning Energy Leaderboard를 시연하며, 사례 연구를 기반으로 완화 전략을 제공합니다.

ABSTRACT

Accurate reporting of energy and carbon usage is essential for understanding the potential climate impacts of machine learning research. We introduce a framework that makes this easier by providing a simple interface for tracking realtime energy consumption and carbon emissions, as well as generating standardized online appendices. Utilizing this framework, we create a leaderboard for energy efficient reinforcement learning algorithms to incentivize responsible research in this area as an example for other areas of machine learning. Finally, based on case studies using our framework, we propose strategies for mitigation of carbon emissions and reduction of energy consumption. By making accounting easier, we hope to further the sustainable development of machine learning experiments and spur more research into energy efficient algorithms.

연구 동기 및 목표

• ML 연구에서 기후 영향 이해를 위해 에너지 사용량 및 탄소 발자국의 체계적 보고를 촉진한다.
• ML 실험 중 실시간 에너지 사용 및 탄소 배출을 추적하는 가볍고 사용하기 쉬운 프레임워크를 개발한다.
• 추적된 지표에서 표준화된 온라인 부록을 생성하는 방법을 보여준다.
• ML 워크플로우에서 탄소 배출을 줄이기 위한 실용적 완화 전략과 유인 메커니즘을 제시한다.

제안 방법

• experiment-impact-tracker를 제안한다. 이는 모듈식의 실험별 회계 프레임워크로, 소규모 코드 변경을 통해 에너지, 컴퓨트, 탄소 지표를 로깅한다.
• 메트릭을 스크립트를 통해 온라인 부록으로 집계하여 그래프와 표를 제공하고 실험 간 비교를 가능하게 한다.
• Intel RAPL, PowerGadget, Nvidia nvidia-smi 등 사용 가능한 도구와 공유 머신의 프로세스별 에너지 크레딧 체계를 이용해 하드웨어 특유의 복잡성을 숨긴다.
• etotal = PUE × Σ(pdramedram + pcpuecpu + pgpuegpu)로 총 에너지를 계산하며, p는 자원 사용 분률, eresource는 각 자원의 에너지 사용량을 나타낸다.
• 에너지를 지역별 탄소 강도(g CO2eq/kWh)로 곱하고 전력망별 지표를 위해 open 데이터 소스(electricitymap, CAISO)를 활용하여 탄소 배출을 계산한다.
• 확산 채택을 돕기 위해 사용성, 해석 가능성, 확장성, 재현성, 내결함성을 중심으로 설계 중심의 논의를 제공한다.
• 에너지 효율적 RL 연구를 유도하기 위한 사용 사례로 Reinforcement Learning Energy Leaderboard를 제시한다.

실험 결과

연구 질문

• RQ1 ML 연구에서 실험별 수준으로 에너지 소비와 탄소 배출을 체계적으로 정량화할 수 있는가?
• RQ2 에너지 사용 예측에 있어 FLOPs와 같은 기존 지표의 한계는 무엇이며 표준화된 프레임워크가 정확도를 어떻게 향상시키는가?
• RQ3 가벼운 추적 프레임워크가 재현 가능한 보고 및 논문 간 메타 분석을 가능하게 하는가?
• RQ4 어떤 완화 전략(위치 선택, 인프라, 보고 관행)이 ML 에너지 및 탄소 발자국을 가장 효과적으로 줄이는가?

주요 결과

• FLOPs(FPOs)는 아키텍처 간 에너지 사용이나 런타임과 일관되게 상관되지 않는 경우가 많으며, 다만 같은 아키텍처 계열 내에서는 상관될 수 있다.
• GPU만 사용하거나 지역 평균만 사용하는 경우 등 부분 정보 추정은 전체 추적에 비해 에너지 및 탄소 발자국을 상당히 오 inaccurately 추정할 수 있다.
• experiment-impact-tracker는 공유 머신에서 이중 계산을 피하기 위한 프로세스별 에너지 계정화를 가능하게 하고 온라인 부록을 위한 포괄적 지표를 로깅한다.
• 에너지 강도가 낮은 지역에서 실험을 실행하면 배출량을 상당한 비율로 줄일 수 있어 지역 전력망의 CO2 배출에 미치는 영향을 보여준다.
• 간단한 코드 변경과 자동화된 보고 스크립트를 통해 표준화된 온라인 부록을 생성할 수 있어 재현성과 커뮤니티 채택을 촉진한다.
• 프레임워크는 광범위한 채택을 촉진하기 위해 사용성, 해석 가능성, 확장성, 재현성 및 내결함성을 중시한다.