[논문 리뷰] Making AI Less "Thirsty": Uncovering and Addressing the Secret Water Footprint of AI Models

Pengfei Li, Jianyi Yang외 2명|arXiv (Cornell University)|2023. 04. 06.

Water-Energy-Food Nexus Studies인용 수 148

한 줄 요약

이 논문은 운영(범위-1/2) 및 구현 물을 포함한 AI 모델의 총 물 발자국을 추정하는 원리적 방법론을 제시하고, 물 효율성이 시공간적으로 어떻게 변화하는지 보여주어 일정 계획 전략에 정보를 제공한다. 또한 지속 가능한 AI를 위해 물 및 탄소 발자국의 투명성과 총체적 고려를 촉구한다.

ABSTRACT

The growing carbon footprint of artificial intelligence (AI) has been undergoing public scrutiny. Nonetheless, the equally important water (withdrawal and consumption) footprint of AI has largely remained under the radar. For example, training the GPT-3 language model in Microsoft's state-of-the-art U.S. data centers can directly evaporate 700,000 liters of clean freshwater, but such information has been kept a secret. More critically, the global AI demand is projected to account for 4.2-6.6 billion cubic meters of water withdrawal in 2027, which is more than the total annual water withdrawal of 4-6 Denmark or half of the United Kingdom. This is concerning, as freshwater scarcity has become one of the most pressing challenges. To respond to the global water challenges, AI can, and also must, take social responsibility and lead by example by addressing its own water footprint. In this paper, we provide a principled methodology to estimate the water footprint of AI, and also discuss the unique spatial-temporal diversities of AI's runtime water efficiency. Finally, we highlight the necessity of holistically addressing water footprint along with carbon footprint to enable truly sustainable AI.

연구 동기 및 목표

• AI 모델의 수도 자원 부족 속에서 숨겨진 물 발자국 연구의 필요성을 고취한다.
• AI 모델의 운영 및 구현 물 발자국을 추정하기 위한 원리적 방법론을 개발한다.
• 방법론을 설명하기 위한 예시로 GPT-3의 운영 물 소비를 추정하는 사례 연구를 제시한다.
• 물 효율성의 시공간 변동성과 그에 따른 AI 작업 부하의 스케줄링 시사점을 강조한다.
• 물 및 탄소 발자국의 투명성 및 총체적 지속가능성을 촉진한다.

제안 방법

• 물 withdrawal(WWF)와 water consumption(WCF)을 정의하고 구분한다.
• 시간에 따라 변화하는 요인을 가진 현장 WUE(범위-1) 및 비현장 WUE(범위-2)를 사용하여 운영 물 발자 footprint를 모델링한다.
• IT 에너지 사용을 총 물 사용과 연관시키기 위해 데이터 센터 PUE를 포함한다.
• 서버 수명 동안 제조 물을 상각하는 방식으로 구현 물 발자 footprint를 산정한다.
• 운영 구성요소와 구현 구성요소를 결합하여 총 물 발자국(WaterTotal)을 얻는다.
• 지역별 PUE/WUE 및 전력 물 강도 데이터를 사용하여 GPT-3 사례 연구에 이 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 AI 모델의 총 물 발자국(운영 및 구현)을 어떻게 정량화할 수 있는가?
• RQ2 현장 및 원격 물 사용 효율은 시간과 위치에 따라 어떻게 달라지며, 이것이 AI 물 발자국에 어떤 영향을 미치는가?
• RQ3 물 발자국 변동성이 훈련 및 추론 작업의 스케줄링에 어떤 함의를 가지는가?
• RQ4 AI 물 발자국을 개발자와 사용자에게 전달하기 위해 필요한 투명성 측정은 무엇인가?
• RQ5 지속 가능한 AI에서 물 발자국 고려를 탄소 발자국 목표와 어떻게 균형 있게 다룰 것인가?

주요 결과

• GPT-3의 운영 물 발자국은 위치 및 냉각 구성에 따라 상당하며(현장 및 비현장 물 사용 영향 포함), 위치에 따라 다를 수 있다.
• 물 효율성은 공간적이고 시간적으로 다양하여 훈련 및 추론의 최적 시점과 위치에 영향을 주어 물 발자국을 줄일 수 있다.
• 총체적 관점은 물 발자국 최소화와 탄소 발자국 최소화 사이에 잠재적 충돌이 있음을 시사하며 균형 있는 전략이 필요하다.
• 제조에 따른 구체적 구현 물은 총 발자국에 기여하며 모델의 전체 수명 주기에 걸쳐 수명 동안 상각된다.
• 모델 카드에서의 투명성 격차가 존재하며, 저자들은 이해와 관리 개선을 위해 범위-1 및 범위-2 물 사용 정보를 포함할 것을 제안한다.