[논문 리뷰] Towards Environmentally Equitable AI via Geographical Load Balancing

Pengfei Li, Jianyi Yang외 2명|arXiv (Cornell University)|2023. 06. 20.

demographic modeling and climate adaptation인용 수 4

한 줄 요약

이 논문은 AI 추론에서 지역적 환경 불평등을 줄이기 위해 탄소 배출량과 수자원 소비량을 가장 열악한 데이터 센터 위치에서 최소화하는 등가의 지리적 로드 밸런싱(GLB)을 제안한다. 10개의 지리적으로 분산된 데이터 센터를 대상으로 한 추적 기반 시뮬레이션을 통해 GLB-Equity는 기존의 GLB 접근 방식과 비교해도 낮은 에너지 비용을 유지하면서도 환경 영향의 지역적 격차를 크게 줄이는 것으로 입증된다.

ABSTRACT

Fueled by the soaring popularity of large language and foundation models, the accelerated growth of artificial intelligence (AI) models' enormous environmental footprint has come under increased scrutiny. While many approaches have been proposed to make AI more energy-efficient and environmentally friendly, environmental inequity -- the fact that AI's environmental footprint can be disproportionately higher in certain regions than in others -- has emerged, raising social-ecological justice concerns. This paper takes a first step toward addressing AI's environmental inequity by balancing its regional negative environmental impact. Concretely, we focus on the carbon and water footprints of AI model inference and propose equity-aware geographical load balancing (GLB) to explicitly address AI's environmental impacts on the most disadvantaged regions. We run trace-based simulations by considering a set of 10 geographically-distributed data centers that serve inference requests for a large language AI model. The results demonstrate that existing GLB approaches may amplify environmental inequity while our proposed equity-aware GLB can significantly reduce the regional disparity in terms of carbon and water footprints.

연구 동기 및 목표

• AI 작업으로 인해 특정 지역이 탄소 및 수자원 소비량을 비례적으로 더 많이 떠넘기는 등 환경 불평등 문제의 증가를 다루기.
• 기존의 지리적 로드 밸런싱(GLB) 접근 방식이 기후 및 에너지 제약이 높은 지역에서 환경 불평등을 의도하지 않게 악화시킬 수 있음을 규명하기.
• 운영 비용과의 균형을 이루면서도 가장 열악한 지역의 환경 영향을 명시적으로 최소화하는 새로운 GLB 프레임워크 개발하기.
• 부분적인 워크로드 라우팅 유연성과 다양한 수준의 탄소 없는 에너지 가용성 등 실제 조건 하에서 제안된 방법 평가하기.
• 환경적 등가의 AI는 금전적 비용이 크게 증가하지 않아도 되며, 등가의 GLB는 효과적이고 효율적일 수 있음을 입증하기.

제안 방법

• 모든 데이터 센터 간 최대 지역 환경 영향(특히 탄소 및 수자원 소비량)을 최소화하는 최대화 최소화 최적화 문제(4a)를 수립하기.
• 지역 기반 환경 지표 통합: 현지 기후와 에너지 혼합 비율에 기반한 탄소 밀도(gCO2e/kWh) 및 수자원 사용 효율성(WUE, L/kWh).
• GLB-Equity를 제약 조건이 있는 최적화 알고리즘으로 구현하여, 가장 열악한 지역에서 환경 영향이 낮은 데이터 센터로 추론 워크로드를 라우팅하기.
• 대규모 언어 모델의 실제 추적 기반 워크로드를 사용하여 10개의 지리적으로 분산된 데이터 센터에서 추론 요청을 시뮬레이션하기.
• 기본 GLB 전략인 GLB-Cost(비용 최소화), GLB-Carbon, GLB-Water, GLB-C2, GLB-All, GLB-Null(로드 밸런싱 없음)과 GLB-Equity 비교하기.
• 국제 간 워크로드 라우팅의 전면적 및 부분적 유연성 조건 하에서 평가하여 실제 구현 가능성 평가하기.

실험 결과

연구 질문

• RQ1 탄소 밀도가 높고 수자원이 부족한 지역에서 특히 환경 불평등을 줄이기 위해 지리적 로드 밸런싱을 재설계할 수 있는가?
• RQ2 기존의 GLB 전략과 비교해 등가의 GLB는 탄소 및 수자원 소비량의 지역 격차 측면에서 어떻게 다른가?
• RQ3 AI 추론 워크로드에서 환경적 등가와 운영 비용 사이의 상호 교환 관계는 어떠한가?
• RQ4 국제 간 워크로드 라우팅의 부분적 유연성은 GLB 전략의 성능과 등가성에 어떤 영향을 미치는가?
• RQ5 등가의 GLB는 에너지나 재정 비용을 크게 증가시키지 않으면서도 열악한 지역에서 낮은 환경 영향을 달성할 수 있는가?

주요 결과

• GLB-Equity는 GLB-Null 대비 최대 지역 수자원 소비량을 18.7% 감소시키고, GLB-All 대비 12.5% 감소시키며, 가장 열악한 지역의 최대 수자원 소비량은 1,818.7 m³이다.
• GLB-Equity는 GLB-Null 대비 최대 지역 탄소 배출량을 35.8% 감소시키고, GLB-All 대비 32.5% 감소시키며, 가장 열악한 지역의 최대 탄소 배출량은 118.56 톤이다.
• 등가성 우선 전략임에도 불구하고 GLB-Equity는 평균 에너지 비용이 $33,669로, GLB-All($47,038)보다 낮고, GLB-Cost 및 GLB-Carbon와 유사하거나 더 낫다.
• 부분적 유연성 시나리오에서도 GLB-Equity는 가장 열악한 지역에서 탄소 및 수자원 소비량을 가장 낮게 유지하여 실제 라우팅 제약 조건 하에서도 뛰어난 강건성을 입증한다.
• 결과적으로 환경적 등가의 AI는 합리적인 비용으로 달성 가능하며, GLB-Equity는 기존 GLB 접근 방식 대비 지역 간 탄소 밀도 격차를 23배 감소시켰다.
• 연구는 탄소 및 수자원 소비량이 종종 에너지 비용과 상충됨을 확인했지만, GLB-Equity는 이러한 상충 요소를 효과적으로 균형 잡아내어 등가성이 본질적으로 비용이 많이 들지 않음을 입증했다.