[論文レビュー] Towards Environmentally Equitable AI via Geographical Load Balancing

Pengfei Li, Jianyi Yang+2 more|arXiv (Cornell University)|Jun 20, 2023

demographic modeling and climate adaptation被引用数 4

ひとこと要約

本稿では、AI推論における地域的環境格差を低減するために、最も不利なデータセンター所在地における炭素および水のインパクトを最小化することを目的とした、公平性に配慮した地理的負荷分散（GLB）を提案する。10か所の地理的に分散したデータセンターにおけるトレースベースのシミュレーションを通じて、従来のGLB手法と比較して、環境インパクトの地域的格差を顕著に低減しながらも、低エネルギーコストを維持できることを示している。

ABSTRACT

Fueled by the soaring popularity of large language and foundation models, the accelerated growth of artificial intelligence (AI) models' enormous environmental footprint has come under increased scrutiny. While many approaches have been proposed to make AI more energy-efficient and environmentally friendly, environmental inequity -- the fact that AI's environmental footprint can be disproportionately higher in certain regions than in others -- has emerged, raising social-ecological justice concerns. This paper takes a first step toward addressing AI's environmental inequity by balancing its regional negative environmental impact. Concretely, we focus on the carbon and water footprints of AI model inference and propose equity-aware geographical load balancing (GLB) to explicitly address AI's environmental impacts on the most disadvantaged regions. We run trace-based simulations by considering a set of 10 geographically-distributed data centers that serve inference requests for a large language AI model. The results demonstrate that existing GLB approaches may amplify environmental inequity while our proposed equity-aware GLB can significantly reduce the regional disparity in terms of carbon and water footprints.

研究の動機と目的

• AIに起因する特定の地域における炭素および水のインパクトが著しく高いという、環境格差の増大する懸念に対処すること。
• 既存の地理的負荷分散（GLB）手法が、気候およびエネルギー制約の厳しい地域において、意図せず環境格差を拡大する可能性があることの特定。
• 運営コストとバランスを取る中で、最も不利な地域における環境インパクトを明示的に最小化する新しいGLBフレームワークの開発。
• 部分的なワークロードルーティングの柔軟性や、再生可能エネルギーの利用可能性の変動といった現実的な条件のもとで、提案手法の評価。
• AIにおける環境の公平性が、高コストを伴うものではないことの実証。公平性に配慮したGLBは、効果的かつ効率的であることが示された。

提案手法

• すべてのデータセンターにおける最大の地域的環境インパクト（具体的には炭素および水のインパクト）を最小化するミニマックス最適化問題（式4a）を定式化する。
• 地域固有の環境指標を統合：地域の気候および電力ミックスに基づく炭素強度（gCO2e/kWh）および水使用効率（WUE、L/kWh）。
• GLB-Equityを制約付き最適化アルゴリズムとして実装し、特に不利な地域の環境インパクトが低いデータセンターに推論ワークロードをルーティングする。
• 大規模言語モデルの実世界トレースに基づくワークロードを用い、10か所の地理的に分散したデータセンターにおける推論リクエストをシミュレートする。
• GLB-Equityを、ベースラインGLB戦略（GLB-Cost（コスト最小化）、GLB-Carbon、GLB-Water、GLB-C2、GLB-All、GLB-Null（負荷分散なし））と比較する。
• 国際的ワークロードルーティングの完全および部分的柔軟性の両状況で評価し、実用的導入可能性を検証する。

実験結果

リサーチクエスチョン

• RQ1 炭素強度が高く、水不足が深刻な地域において、地理的負荷分散を再設計することで、環境格差を明示的に低減できるか？
• RQ2 公平性に配慮したGLBは、従来のGLB戦略と比較して、炭素および水のインパクトにおける地域的格差をどのように低減するか？
• RQ3 AI推論ワークロードにおいて、環境の公平性と運用コストのトレードオフはどのようなものか？
• RQ4 国際的ワークロードルーティングの部分的柔軟性は、GLB戦略のパフォーマンスおよび公平性にどのように影響するか？
• RQ5 公平性に配慮したGLBは、エネルギーまたは財務コストを著しく増加させることなく、不利な地域における低インパクトを達成できるか？

主な発見

• GLB-Equityは、GLB-Nullと比較して最大地域の水インパクトを18.7％削減し、GLB-Allと比較して12.5％削減した。最も不利な地域における最大水使用量は1,818.7 m³であった。
• GLB-Equityは、GLB-Nullと比較して最大地域の炭素インパクトを35.8％削減し、GLB-Allと比較して32.5％削減した。最も不利な地域における最大値は118.56トンであった。
• 公平性を優先しても、GLB-Equityは平均エネルギーコストが33,669ドルを維持しており、GLB-All（47,038ドル）を下回り、GLB-CostおよびGLB-Carbonと同等または優れている。
• 部分的柔軟性のシナリオにおいても、GLB-Equityは最も不利な地域における炭素および水のインパクトを最低に保ち、現実のルーティング制約に対しても頑健であることが示された。
• 結果から、AIにおける環境の公平性は、妥当なコストで達成可能であり、GLB-Equityは、ベースラインGLB手法と比較して、地域間の炭素強度の格差を23倍まで低減した。
• 研究では、炭素および水のインパクトがエネルギーコストとしばしば相反することが確認されたが、GLB-Equityはこれらのトレードオフを効果的にバランスさせ、公平性が本質的に高コストであるとは限らないことを証明した。