[論文レビュー] Making AI Less "Thirsty": Uncovering and Addressing the Secret Water Footprint of AI Models

Pengfei Li, Jianyi Yang+2 more|arXiv (Cornell University)|Apr 6, 2023

Water-Energy-Food Nexus Studies被引用数 148

ひとこと要約

この論文は、AIモデルの総水フットプリントを推定するための原理的な方法論を提示し、運用水（スコープ1/2）と体現水を含め、水効率が空間的・時間的にどのように変化するかを示して、スケジューリング戦略に情報を提供します。透明性と水および炭素フットプリントの総合的な考慮を持続可能なAIのために提唱します。

ABSTRACT

The growing carbon footprint of artificial intelligence (AI) has been undergoing public scrutiny. Nonetheless, the equally important water (withdrawal and consumption) footprint of AI has largely remained under the radar. For example, training the GPT-3 language model in Microsoft's state-of-the-art U.S. data centers can directly evaporate 700,000 liters of clean freshwater, but such information has been kept a secret. More critically, the global AI demand is projected to account for 4.2-6.6 billion cubic meters of water withdrawal in 2027, which is more than the total annual water withdrawal of 4-6 Denmark or half of the United Kingdom. This is concerning, as freshwater scarcity has become one of the most pressing challenges. To respond to the global water challenges, AI can, and also must, take social responsibility and lead by example by addressing its own water footprint. In this paper, we provide a principled methodology to estimate the water footprint of AI, and also discuss the unique spatial-temporal diversities of AI's runtime water efficiency. Finally, we highlight the necessity of holistically addressing water footprint along with carbon footprint to enable truly sustainable AI.

研究の動機と目的

• freshwater scarcity を背景に、AIモデルの隠れた水フットプリントを研究する必要性を動機づける。
• AIモデルの運用水と体現水の両方のフットプリントを推定する原理的な方法論を開発する。
• 方法論を説明するためにGPT-3の運用水消費を推定するケーススタディを示す。
• 水効率の空間的・時間的変動と、それがAIワークロードのスケジューリングに及ぼす影響を強調する。
• 水と炭素フットプリントを統合した総合的な持続可能性、透明性を提唱する。

提案手法

• 水の引水量と消費量を区別・定義する（WWF vs. WCF）。
• 現地のWUE（スコープ-1）とオフサイトのWUE（スコープ-2）を時間変動因子とともに用いて運用水フットプリントをモデル化する。
• ITエネルギー使用量を総水使用量に関連付けるためにデータセンターのPUEを組み込む。
• サーバ寿命にわたる製造水の償却として体現水フットプリントを計算する。
• 運用成分と体現成分を組み合わせて総水フットプリント（WaterTotal）を得る。
• 場所固有のPUE/WUEと電力水强度データを用いたGPT-3ケーススタディにこの枠組みを適用する。

実験結果

リサーチクエスチョン

• RQ1 AIモデルの総水フットプリント（運用と体現の両方）をどのように定量化できるか？
• RQ2 現地での水使用効率と現地外での水使用効率は時間と場所によってどのように変化し、AIの水フットプリントにどう影響するか？
• RQ3 水フットプリントの変動がトレーニングと推論のスケジューリングに与える影響は何か？
• RQ4 開発者やユーザーへAIの水フットプリントを伝えるためにどのような透明性の手段が必要か？
• RQ5 持続可能なAIにおいて、水フットプリントの考慮を炭素フットプリントの目標とどのようにバランスさせるべきか？

主な発見

• GPT-3の運用水フットプリントは場所と冷却構成によって大きく変動し得る（例：現地内外の水使用の影響）。
• 水効率は空間的・時間的に多様で、トレーニングと推論の最適なタイミングと場所を左右し、水フットプリントを低減する。
• 総合的な視点は、水フットプリントの最小化と炭素フットプリントの最小化との間に潜む対立を示し、バランスのとれた戦略が必要である。
• 製造時の体現水は総フットプリントに寄与し、モデルのライフサイクル全体でサーバの寿命にわたり償却される。
• モデルカードには透明性のギャップが存在し、著者らは理解と統治を改善するためにスコープ-1およびスコープ-2の水使用情報の含有を提案する。