AI 기술과 그 비밀의 물 발자국

인공 지능에 대한 최신 해석은 어디에나 있습니다. 어디를 보느냐에 따라 생성 AI는 우리를 죽이거나, 일자리를 빼앗거나, 고된 일에서 우리를 해방시키거나, 엄청난 혁신을 촉진할 것입니다. (어느 쪽이든 규제에 대한 요구가 있습니다.) The Markup에서는 실제 결과 측정을 포함하는 신중한 접근 방식을 선호합니다.

그래서 저는 이 Q&A를 University of California, Riverside의 컴퓨터 과학 부교수인 Shaolei Ren 과 공유하게 되어 매우 기쁩니다. 후보 Pengfei Li , Jianyi Yang , 텍사스 대학교 알링턴 컴퓨터 과학 부교수 Mohammad A. Islam은 최근 AI의 비밀 물 발자국을 정량화하는 논문을 발표했습니다.

신흥 기술의 탄소 배출량이 어느 정도 주목을 받고 있지만, 진정으로 지속 가능성을 향해 나아가려면 물도 방정식의 일부가 되어야 합니다.

또한 안녕하세요! 저는 The Markup의 CEO인 Nabiha Syed입니다. 저는 기술 발전이 건강한 지구와 공존할 수 있다고 믿는 사람입니다. 단일 ChatGPT 대화가 "마실" 수 있는 물의 양과 AI의 물 발자국을 줄이기 위해 취할 수 있는 실질적인 조치를 알아보려면 계속 읽으세요.

(이 Q&A는 간결성과 명확성을 위해 편집되었습니다.)

Syed: 아주 좋은 이유가 있기 때문에 우리는 GPT‑3 및 GPT‑4와 같은 AI 모델과 비트코인 채굴을 포함한 다양한 기술의 탄소 발자국에 대해 더 자세히 조사하기 시작했습니다. 하지만 당신의 연구는 덜 주목받고 있는 것, 즉 AI 기술의 비밀 물발자국에 초점을 맞추고 있습니다. 귀하가 발견한 사항에 대해 알려주십시오.

런정페이 : 물발자국은 담수가 “무한한” 자원이라는 큰 오해와 상대적으로 저렴한 물 가격 등 다양한 이유로 주목받지 못하고 있습니다. 많은 AI 모델 개발자는 자신의 물 발자국조차 인식하지 못합니다. 그러나 이것이 특히 캘리포니아와 같은 가뭄 지역에서 물 발자국이 중요하지 않다는 것을 의미하지는 않습니다.

UT Arlington의 학생들 및 공동 작업자와 함께 저는 최첨단 추정 방법을 사용하여 AI의 물 발자국에 대한 연구를 수행했습니다. 우리는 대규모 AI 모델이 실제로 큰 물 소비자임을 발견했습니다.

예를 들어, Microsoft의 최첨단 미국 데이터 센터에서 GPT‑3를 교육하면 700,000리터의 깨끗한 담수를 직접 소비할 수 있습니다(BMW 자동차 370대 또는 Tesla 전기 자동차 320대를 생산할 수 있는 양). 교육은 아시아에 있는 Microsoft 데이터 센터에서 이루어졌습니다. 이 수치에는 발전과 관련된 외부 물 발자국은 포함되지 않습니다.

추론(예: ChatGPT와의 대화)을 위해 우리 추정에 따르면 ChatGPT는 모델이 배포되는 시기와 장소에 따라 대략 20~50개의 질문과 답변으로 구성된 짧은 대화를 위해 500ml의 물병이 필요합니다. ChatGPT의 거대한 사용자 기반을 고려할 때 추론을 위한 총 물 발자국은 엄청날 수 있습니다.

그런 다음 AI 모델의 런타임 물 효율성의 고유한 시공간적 다양성, 즉 물 효율성은 시간과 위치에 따라 변합니다. 이는 특정 시간과 특정 위치에서 AI 작업량과 작업을 동적으로 예약함으로써 AI의 물 발자국을 줄일 수 있는 잠재력이 있음을 의미하며, 야간 동안 전기 자동차를 충전하기 위해 낮은 전기 요금을 활용하여 전기 요금을 줄이는 방식도 있습니다.

Syed: 이 물발자국은 쇠고기 같은 것과 비교하면 어떻습니까?

런정페이 : 몇몇 웹사이트에서 쇠고기와 청바지의 물발자국이 크다는 것을 볼 수 있습니다 . 그러나 물발자국은 전 생애주기 동안 지속되며 음용할 수 없는 물의 상당 부분을 포함합니다 . 예를 들어 청바지의 물발자국은 면화의 성장에서 시작됩니다.

본 연구에서는 운영 물 발자국(예: AI 모델 훈련 및 실행과 관련된 물 소비)만 고려하는 반면, 구체화된 물 발자국(예: 칩 제조를 포함한 AI 서버 제조 및 운송과 관련된 물 발자국)은 제외됩니다. AI 모델에 구현된 물 발자국을 고려하면 전체 물 발자국이 10배 이상 쉽게 늘어날 것이라고 직감합니다.

Syed: 특히 탄소 감소와 물 절약이 어떻게 서로 긴장할 수 있는지 궁금합니다. 우리가 “태양을 따라야 할지, 따르지 말아야 할지” 묻는다면 무슨 뜻입니까?

런정페이 : 물 효율성은 주로 외부 온도와 발전용 에너지 연료 혼합에 따라 달라집니다 . 탄소 효율적인 시간/위치는 물 효율적인 시간/위치를 의미하지 않으며 때로는 서로 반대되는 경우도 있습니다.

물에 민감한 사용자는 물 효율적인 시간 및/또는 물 효율적인 데이터 센터에서 AI 모델의 추론 서비스를 사용하는 것을 선호할 수 있습니다.

예를 들어 캘리포니아에서는 정오 무렵에 태양에너지 생산량이 많아 탄소 효율이 가장 좋은 시간이 되지만, 정오 무렵에는 외부 온도도 높아서 물 효율이 최악이다. 결과적으로, 탄소 배출량 감소만 고려한다면(예를 들어 정오에 더 많은 AI 교육을 예약함으로써) 물 소비량이 더 많아질 가능성이 높으며 이는 실제로 AI에 지속 가능하지 않습니다.

반면에 물 발자국만 줄인다면(예를 들어 AI 교육을 자정에 예약하여) 사용 가능한 태양 에너지가 적어 탄소 발자국이 늘어날 수 있습니다.

Syed: Microsoft, Google, Amazon과 같은 거대 기술 기업이 AI의 미래에 큰 투자를 하고 있는 것은 분명합니다. 하지만 그들이 개발에서 환경 고려 사항을 우선 순위로 삼고 있는 것으로 보입니까?

Ren: 네, 우리는 Google , Microsoft , Meta 와 같은 거대 기술 기업의 지속가능성 보고서에서 물 발자국이 우선순위로 등장하는 것을 보아 왔습니다.

또한 최근 입법자들은 데이터 센터의 물 사용이 지역 환경에 미치는 영향을 고려하기 시작했습니다. 예를 들어, Loudon County가 "세계의 데이터 센터 수도"로 알려진 버지니아에서는 올해 초 제안된 SB 1078에서 데이터 센터가 물 사용량과 탄소에 미치는 영향을 조사하기 위해 "부지 평가..."를 요구합니다. 배출뿐만 아니라 농업 자원에 미치는 영향도 포함됩니다.”

지금까지 업계의 노력 대부분은 지역의 식수 자원을 활용하는 대신 데이터 센터의 냉각탑 효율성을 개선하고 재활용수를 처리하는 등 '엔지니어링' 관점에서 현장 물 효율성을 개선하는 데 초점을 맞춰왔습니다. 그럼에도 불구하고 대다수의 데이터 센터는 여전히 식수와 냉각탑을 사용하고 있습니다.

예를 들어, Google과 같은 거대 기술 기업조차도 냉각탑에 크게 의존하고 있으며 매년 수십억 리터의 식수를 소비합니다.

이러한 막대한 물 소비로 인해 지역 물 인프라에 스트레스가 발생했습니다. Google의 데이터 센터는 오리건 주 댈러스 전체 물의 4분의 1 이상을 사용했습니다. 게다가 캘리포니아와 같이 가뭄이 잦은 지역에도 많은 데이터 센터가 위치해 있습니다.

우리의 연구에 따르면 대규모 AI 모델을 훈련하는 '시기'와 '어디서'가 물 발자국에 큰 영향을 미칠 수 있는 것으로 나타났습니다.

근본적인 이유는 현장 및 외부 WUE(물 사용 효율성)의 시공간적 다양성입니다. 즉, 외부 기상 조건의 변화로 인한 현장 WUE 변화와 그리드의 변화로 인한 외부 WUE 변화입니다. 시간에 따라 변하는 수요를 충족시키기 위해 에너지 연료를 혼합합니다. 실제로 WUE는 월별 또는 계절별보다 훨씬 빠른 시간 단위로 변화합니다.

따라서 WUE의 시공간적 다양성을 활용하여 AI 모델 훈련 및 추론을 동적으로 예약하여 물 발자국을 줄일 수 있습니다.

예를 들어, 소규모 AI 모델을 교육하는 경우 자정 및/또는 물 효율성이 더 높은 데이터 센터 위치에서 교육 작업을 예약할 수 있습니다. 마찬가지로 물에 민감한 일부 사용자는 물 효율적인 시간 및/또는 물 효율적인 데이터 센터에서 AI 모델의 추론 서비스를 사용하는 것을 선호할 수 있으며, 이는 추론을 위한 AI 모델의 물 발자국을 줄이는 데 기여할 수 있습니다.

이러한 수요 측면 물 관리는 공급 측면에 초점을 맞춘 기존 엔지니어링 기반 현장 물 절약 접근 방식을 보완합니다. 또한 우리의 접근 방식은 소프트웨어 기반이므로 기후 조건이나 새로운 냉각 시스템 설치에 대한 특별한 요구 사항 없이 모든 냉각 시스템과 무료로 함께 사용할 수 있습니다.

더 많은 투명성을 확보함으로써 우리는 가장 물 효율적인 AI 모델이 언제, 어디서 있는지 정확히 알 수 있게 될 것입니다.

Syed: 당신은 유용한 다음 단계로 투명성을 제안했습니다. 투명성을 높이면 어떤 질문에 답하는 데 도움이 될까요?

렌: 투명성을 높이면 가장 물 효율적인 AI 모델이 언제, 어디서 있는지 정확히 알 수 있을 것입니다.

또한 투명성을 통해 AI 모델의 물 발자국을 측정, 벤치마킹 및 개선할 수 있으며 이는 연구 커뮤니티에 큰 가치가 될 수 있습니다. 현재 일부 AI 컨퍼런스에서는 저자에게 논문에서 AI 모델의 탄소 배출량을 선언하도록 요청했습니다. 우리는 투명성과 인식을 바탕으로 작성자가 AI 모델의 물 발자국을 환경 영향의 일부로 선언할 수도 있다고 믿습니다.

이러한 정보를 통해 AI 모델 개발자는 AI 모델 훈련 일정을 더 효과적으로 계획하고 공간적-시간적 다양성을 활용하여 사용자의 추론 요청을 더 효과적으로 라우팅하여 다른 성능 지표의 저하를 거의 또는 전혀 저하시키지 않으면서 물을 절약할 수 있습니다.

또한 투명성을 통해 사용자는 런타임 시 물 발자국을 알 수 있고 물 발자국을 개선할 수 있습니다(예를 들어 가능하면 긴급하지 않은 추론 요청을 물 효율적인 시간으로 연기할 수 있음).

Apple은 저탄소 충전 시간을 선택하여 iPhone 제품에 청정 에너지 스케줄링을 통합했으며, 향후 물 인식 AI 훈련 및 추론도 현실화될 수 있기를 바랍니다.

여러분도 저처럼 이 내용이 많은 생각을 하게 되기를 바랍니다! 이 작품은 특히 집과 가까운 곳에서 인기를 얻었습니다. 아버지와 여동생은 모두 수자원 엔지니어이고 저는 가뭄이 잦은 남부 캘리포니아에서 자랐습니다. 확실히 우리는 기술 호황을 누리고 있습니다. 하지만 혁신은 공공의 이익을 위해 봉사해야지 공공의 이익을 없애서는 안 됩니다.

읽어 주셔서 감사합니다!

언제나,

나비하 시에드

최고 경영자

마크업

나비하 시에드( Nabiha Syed)

여기에도 게시됨

사진: David Becker, Unsplash