[论文解读] Towards Environmentally Equitable AI via Geographical Load Balancing

Pengfei Li, Jianyi Yang+2 more|arXiv (Cornell University)|Jun 20, 2023

demographic modeling and climate adaptation被引用 4

一句话总结

本文提出了一种公平意识的地理负载均衡（GLB）方法，以减少人工智能推理过程中区域性的环境不平等，通过最小化最弱势数据中心位置的碳足迹和水足迹。基于10个地理分布的数据中心的基于追踪的仿真表明，与现有GLB方法相比，GLB-Equity显著降低了区域环境影响的差异，同时保持了较低的能耗成本。

ABSTRACT

Fueled by the soaring popularity of large language and foundation models, the accelerated growth of artificial intelligence (AI) models' enormous environmental footprint has come under increased scrutiny. While many approaches have been proposed to make AI more energy-efficient and environmentally friendly, environmental inequity -- the fact that AI's environmental footprint can be disproportionately higher in certain regions than in others -- has emerged, raising social-ecological justice concerns. This paper takes a first step toward addressing AI's environmental inequity by balancing its regional negative environmental impact. Concretely, we focus on the carbon and water footprints of AI model inference and propose equity-aware geographical load balancing (GLB) to explicitly address AI's environmental impacts on the most disadvantaged regions. We run trace-based simulations by considering a set of 10 geographically-distributed data centers that serve inference requests for a large language AI model. The results demonstrate that existing GLB approaches may amplify environmental inequity while our proposed equity-aware GLB can significantly reduce the regional disparity in terms of carbon and water footprints.

研究动机与目标

• 应对人工智能领域日益增长的环境不平等问题，即某些地区因人工智能工作负载而承担不成比例的碳足迹和水足迹。
• 指出现有的地理负载均衡（GLB）方法可能在气候和能源约束较高的地区无意中加剧环境不平等。
• 开发一种新型GLB框架，明确最小化对最弱势地区环境影响，实现公平性与运行成本的平衡。
• 在现实条件下评估所提方法，包括部分工作负载路由灵活性和不同水平的零碳能源可用性。
• 证明人工智能的环境公平性无需付出高昂代价，且公平的GLB既有效又高效。

提出的方法

• 建立一个最小化最大区域环境影响（具体为碳足迹和水足迹）的极大极小优化问题（4a），覆盖所有数据中心。
• 整合地区特定的环境指标：基于本地气候和能源结构的碳强度（gCO2e/kWh）和水利用效率（WUE，L/kWh）。
• 将GLB-Equity实现为一种约束优化算法，将推理工作负载路由至最弱势地区环境影响较低的数据中心。
• 使用大规模语言模型的真实追踪工作负载，模拟10个地理分布的数据中心之间的推理请求。
• 将GLB-Equity与基线GLB策略进行比较：GLB-Cost（成本最小化）、GLB-Carbon、GLB-Water、GLB-C2、GLB-All和GLB-Null（无负载均衡）。
• 在完全和部分跨大陆工作负载路由灵活性条件下进行评估，以衡量实际可部署性。

实验结果

研究问题

• RQ1 地理负载均衡能否被重新设计为显式减少区域环境不平等，特别是在碳强度高和水资源匮乏的地区？
• RQ2 与现有GLB策略相比，公平意识的GLB在碳足迹和水足迹的区域差异方面表现如何？
• RQ3 人工智能推理工作负载中，环境公平性与运行成本之间的权衡关系是什么？
• RQ4 部分跨大陆工作负载路由灵活性如何影响GLB策略的性能和公平性？
• RQ5 公平意识的GLB能否在不显著增加能耗或财务成本的前提下，实现弱势地区低环境影响？

主要发现

• 与GLB-Null相比，GLB-Equity将最大区域水足迹降低了18.7%，与GLB-All相比降低了12.5%，最弱势地区的最大水用量为1,818.7 m³。
• 与GLB-Null相比，GLB-Equity将最大区域碳足迹降低了35.8%，与GLB-All相比降低了32.5%，最弱势地区的最大碳排放量为118.56吨。
• 尽管优先考虑公平性，GLB-Equity仍保持平均能耗成本为33,669美元，低于GLB-All（47,038美元），并与GLB-Cost和GLB-Carbon相当或更优。
• 在部分灵活性场景下，GLB-Equity在最弱势地区仍实现最低的碳足迹和水足迹，证明其对现实路由约束具有鲁棒性。
• 结果表明，人工智能的环境公平性可在合理成本下实现，GLB-Equity使区域间碳强度差异降低了23倍，相比基线GLB方法。
• 研究证实，碳足迹和水足迹常与能耗成本存在权衡，但GLB-Equity能有效平衡这些权衡，证明公平性并非必然昂贵。