[論文レビュー] Towards the Systematic Reporting of the Energy and Carbon Footprints of Machine Learning

Peter Henderson, Jieru Hu+4 more|arXiv (Cornell University)|Jan 31, 2020

Energy, Environment, and Transportation Policies参考文献 73被引用数 174

ひとこと要約

この論文は、ML研究におけるエネルギー使用と炭素排出を容易に再現可能な形で報告するための experiment-impact-tracker フレームワークを導入し、Reinforcement Learning Energy Leaderboard を実証し、ケーススタディに基づく緩和戦略を提供する。

ABSTRACT

Accurate reporting of energy and carbon usage is essential for understanding the potential climate impacts of machine learning research. We introduce a framework that makes this easier by providing a simple interface for tracking realtime energy consumption and carbon emissions, as well as generating standardized online appendices. Utilizing this framework, we create a leaderboard for energy efficient reinforcement learning algorithms to incentivize responsible research in this area as an example for other areas of machine learning. Finally, based on case studies using our framework, we propose strategies for mitigation of carbon emissions and reduction of energy consumption. By making accounting easier, we hope to further the sustainable development of machine learning experiments and spur more research into energy efficient algorithms.

研究の動機と目的

• ML研究におけるエネルギー使用量と炭素フットプリントの体系的報告を促進し、気候影響を理解する。
• ML実験中のリアルタイムなエネルギー使用と炭素排出を追跡する、軽量で使いやすいフレームワークを開発する。
• 追跡された指標から標準化されたオンライン付録を生成する方法を示す。
• MLワークフローにおける炭素排出を削減する実用的な緩和戦略とインセンティブ機構を示す。

提案手法

• experiment-impact-tracker を提案する。これは、モジュール式の per-experiment 会計フレームワークで、少しのコード変更でエネルギー、計算資源、炭素指標をログに取る。
• スクリプトを用いてグラフと表を含むオンライン付録に指標を集約し、実験横断の比較を可能にする。
• ハードウェア特有の複雑さを、利用可能なツール（例：Intel RAPL、PowerGadget、Nvidia nvidia-smi）と共有マシン上の per-process energy crediting scheme を用いて回避する。
• etotal = PUE × Σ(pdramedram + pcpuecpu + pgpuegpu) のとき、p はリソース使用シェアを、eresource は各リソースのエネルギー使用量を表す。
• 炭素排出量はエネルギー（kWh）に地域のカーボン強度（g CO2eq/kWh）を掛け、grid-specific metrics のために open data sources（electricitymap、CAISO）を活用して計算する。
• 使いやすさ、解釈性、拡張性、再現性、フォールトトレランスを支援する設計中心の議論を提供し、広範な採用を促進する。
• Reinforcement Learning Energy Leaderboard をユースケースとして提示し、エネルギー効率の高い RL リサーチを促進する。

実験結果

リサーチクエスチョン

• RQ1 ML研究をどのようにしてエネルギー消費と炭素排出を実験単位で体系的に定量化できるか。
• RQ2 FLOPs など既存指標のエネルギー使用予測にはどのような限界があり、標準化フレームワークは精度をどう改善できるか。
• RQ3 軽量な追跡フレームワークは報告の再現性と論文横断のメタ分析を可能にするか。
• RQ4 どのような緩和戦略（場所の選択、インフラ、報告の実践）が ML のエネルギーと炭素フットプリントを最も効果的に削減できるか。

主な発見

• FPOs（FLOPs）はアーキテクチャ間でエネルギー使用量や実行時間と一貫して相関するわけではないが、アーキテクチャクラス内では相関することがある。
• 部分的な情報推定（GPU のみ、あるいは地域平均のみを使用するなど）は、全追跡と比較してエネルギーと炭素フットプリントを大幅に過小/過大評価しうる。
• experiment-impact-tracker は per-process エネルギー会計を可能にし、共有マシンでの二重カウントを回避し、オンライン付録用の包括的な指標を記録する。
• 炭素強度の低い地域で実験を実施することで排出量を substantial factors に減らすことができ、地域グリッドの影響を示している。
• 単純なコード変更と自動報告スクリプトにより標準化されたオンライン付録を生成でき、再現性とコミュニティ全体の採用を促進する。
• このフレームワークは、普及を促進するために使いやすさ、解釈性、拡張性、再現性、フォールト・トレランスを強調している。