paint-brush
KI-Technologie und ihr geheimer Wasser-Fußabdruckvon@TheMarkup
286 Lesungen

KI-Technologie und ihr geheimer Wasser-Fußabdruck

von The Markup7m2024/02/10
Read on Terminal Reader

Zu lang; Lesen

Außerdem: Hallo! Ich bin Nabiha Syed, der CEO von The Markup, und ich bin zufällig jemand, der glaubt, dass technologischer Fortschritt mit einem gesunden Planeten einhergehen kann – wenn wir das zu einer Priorität machen. Lesen Sie weiter, um zu erfahren, wie viel Wasser ein einzelnes ChatGPT-Gespräch „trinken“ könnte und konkrete Schritte, die wir unternehmen können, um den Wasser-Fußabdruck von KI zu reduzieren.
featured image - KI-Technologie und ihr geheimer Wasser-Fußabdruck
The Markup HackerNoon profile picture

Heiße Interpretationen künstlicher Intelligenz gibt es überall: Je nachdem, wo man hinschaut, wird generative KI uns entweder töten, uns Arbeitsplätze wegnehmen, uns von der Plackerei befreien oder enorme Innovationen vorantreiben. (Auf jeden Fall gibt es hier Forderungen nach Regulierung .) Bei The Markup verfolgen wir gerne einen maßvollen Ansatz, der oft auch die Messung tatsächlicher Konsequenzen einschließt.


Daher freue ich mich sehr, diese Frage-und-Antwort-Runde mit dem außerordentlichen Professor für Informatik an der University of California, Riverside, Shaolei Ren , zu teilen, der zusammen mit seinem Team – Riverside Ph.D. Die Kandidaten Pengfei Li und Jianyi Yang sowie Mohammad A. Islam , außerordentlicher Professor für Informatik an der University of Texas in Arlington, haben kürzlich einen Artikel veröffentlicht, der den geheimen Wasser-Fußabdruck von KI quantifiziert.


Während der CO2-Fußabdruck neuer Technologien einige Aufmerksamkeit erregt hat, muss Wasser auch Teil der Gleichung sein, um wirklich auf Nachhaltigkeit hinzuarbeiten.


Außerdem: Hallo! Ich bin Nabiha Syed, der CEO von The Markup, und ich bin zufällig jemand, der glaubt, dass technologischer Fortschritt mit einem gesunden Planeten einhergehen kann – wenn wir das zu einer Priorität machen. Lesen Sie weiter, um zu erfahren, wie viel Wasser ein einzelnes ChatGPT-Gespräch „trinken“ könnte und konkrete Schritte, die wir unternehmen können, um den Wasser-Fußabdruck von KI zu reduzieren.


(Diese Fragen und Antworten wurden aus Gründen der Kürze und Klarheit bearbeitet.)

Bildunterschrift: Von links nach rechts: Pengfei Li, Jianyi Yang, Mohammad A. Islam, Shaolei Ren Bildnachweis: Bildnachweis, von links nach rechts: Qiuxiao Chen, UC Riverside, UT Arlington, UC Riverside

Syed: Aus gutem Grund beobachten wir zunehmend eine genauere Untersuchung des CO2-Fußabdrucks verschiedener Technologien, darunter KI-Modelle wie GPT-3 und GPT-4 sowie Bitcoin-Mining . Doch Ihre Forschung konzentriert sich auf etwas, das weniger Beachtung findet: den geheimen Wasser-Fußabdruck der KI-Technologie. Erzählen Sie uns von Ihren Erkenntnissen.


Ren: Der Wasser-Fußabdruck blieb aus verschiedenen Gründen unter dem Radar, darunter die große Fehleinschätzung, dass Süßwasser eine „unendliche“ Ressource sei, und der relativ niedrige Preis von Wasser. Viele Entwickler von KI-Modellen sind sich ihres Wasser-Fußabdrucks nicht einmal bewusst. Dies bedeutet jedoch nicht, dass der Wasser-Fußabdruck keine Rolle spielt, insbesondere in Dürreregionen wie Kalifornien.



Zusammen mit meinen Studenten und meinem Kollegen an der UT Arlington habe ich mithilfe modernster Schätzmethoden den Wasser-Fußabdruck von KI untersucht. Wir stellen fest, dass groß angelegte KI-Modelle tatsächlich große Wasserverbraucher sind.


Beispielsweise kann das Training von GPT-3 in den hochmodernen US-Rechenzentren von Microsoft direkt 700.000 Liter sauberes Süßwasser verbrauchen (genug, um 370 BMW-Autos oder 320 Tesla-Elektrofahrzeuge zu produzieren), und der Wasserverbrauch hätte sich verdreifacht, wenn Die Schulungen wurden in den Rechenzentren von Microsoft in Asien durchgeführt. In diesen Zahlen ist der mit der Stromerzeugung verbundene Wasser-Fußabdruck außerhalb des Standorts nicht enthalten.


Für Schlussfolgerungen (d. h. Gespräche mit ChatGPT) zeigt unsere Schätzung, dass ChatGPT eine 500-ml-Flasche Wasser für ein kurzes Gespräch mit etwa 20 bis 50 Fragen und Antworten benötigt, je nachdem, wann und wo das Modell eingesetzt wird. Angesichts der riesigen Benutzerbasis von ChatGPT kann der gesamte Wasser-Fußabdruck für die Schlussfolgerung enorm sein.


Anschließend haben wir die einzigartigen räumlich-zeitlichen Unterschiede der Wassereffizienz von KI-Modellen zur Laufzeit weiter untersucht – die Wassereffizienz ändert sich im Laufe der Zeit und je nach Standort. Dies impliziert, dass das Potenzial besteht, den Wasser-Fußabdruck von KI durch die dynamische Planung von KI-Arbeitslasten und -Aufgaben zu bestimmten Zeiten und an bestimmten Orten zu reduzieren, so wie wir unsere Stromrechnungen senken, indem wir die niedrigen Strompreise während der Nacht zum Aufladen unserer Elektrofahrzeuge nutzen.


Syed: Wie verhält sich dieser Wasser-Fußabdruck beispielsweise mit Rindfleisch?


Ren: Auf einigen Websites sehen wir vielleicht, dass Rindfleisch und Jeans einen großen Wasser-Fußabdruck haben, aber ihr Wasser-Fußabdruck gilt für den gesamten Lebenszyklus und umfasst einen großen Anteil nicht trinkbares Wasser. Der Wasser-Fußabdruck von Jeans beginnt beispielsweise mit dem Baumwollwachstum.


In unserer Studie berücksichtigen wir nur den betrieblichen Wasser-Fußabdruck (d. h. den Wasserverbrauch im Zusammenhang mit dem Training und Betrieb der KI-Modelle), wohingegen der verkörperte Wasser-Fußabdruck (z. B. der Wasser-Fußabdruck im Zusammenhang mit der Herstellung und dem Transport von KI-Servern, einschließlich Chipherstellung) ausgeschlossen ist. Wenn wir den verkörperten Wasser-Fußabdruck für KI-Modelle berücksichtigen, würde sich der gesamte Wasser-Fußabdruck meiner Meinung nach leicht um das Zehnfache oder sogar mehr erhöhen.


Syed: Ich bin besonders neugierig darauf, wie Kohlenstoffreduzierung und Wassereinsparung im Spannungsfeld zueinander stehen könnten. Was meinen Sie, wenn Sie fragen, ob wir „der Sonne folgen oder ihr nicht folgen“ sollen?


Ren: Die Wassereffizienz hängt hauptsächlich von der Außentemperatur sowie den Energie-Brennstoff-Mischungen für die Stromerzeugung ab. CO2-effiziente Stunden/Standorte bedeuten nicht gleich wassereffiziente Stunden/Standorte, und manchmal sind sie sogar gegensätzlich.


Wasserbewusste Benutzer ziehen es möglicherweise vor, die Inferenzdienste von KI-Modellen zu wassereffizienten Zeiten und/oder in wassereffizienten Rechenzentren zu nutzen.


In Kalifornien gibt es zum Beispiel um die Mittagszeit eine hohe Solarenergieproduktion, was zu den Stunden mit der höchsten CO2-Effizienz führt, aber um die Mittagszeit ist auch die Außentemperatur hoch und daher ist die Wassereffizienz am schlechtesten. Wenn wir also nur die Reduzierung des CO2-Fußabdrucks in Betracht ziehen (z. B. indem wir mehr KI-Schulungen um die Mittagszeit planen), werden wir wahrscheinlich einen höheren Wasserverbrauch haben, was für die KI nicht wirklich nachhaltig ist.


Wenn wir andererseits nur den Wasser-Fußabdruck reduzieren (z. B. indem wir das KI-Training um Mitternacht planen), erhöhen wir möglicherweise den CO2-Fußabdruck, weil weniger Solarenergie zur Verfügung steht.


Syed: Es ist klar, dass Technologiegiganten wie Microsoft, Google und Amazon stark auf die Zukunft der KI setzen, aber sehen wir, dass sie Umweltaspekte bei ihrer Entwicklung zur Priorität machen?


Ren: Ja, wir haben gesehen, dass der Wasser-Fußabdruck in den Nachhaltigkeitsberichten mehrerer Technologiegiganten wie Google , Microsoft und Meta eine Priorität darstellt.


Darüber hinaus haben Gesetzgeber kürzlich damit begonnen, die Auswirkungen des Wasserverbrauchs von Rechenzentren auf die lokale Umwelt zu berücksichtigen. In Virginia beispielsweise, wo Loudon County als „Rechenzentrumshauptstadt der Welt“ bekannt ist, würde SB 1078 , das Anfang dieses Jahres vorgeschlagen wurde, „eine Standortbewertung … erfordern, um die Auswirkungen des Rechenzentrums auf den Wasserverbrauch und den CO2-Ausstoß zu untersuchen.“ Emissionen sowie etwaige Auswirkungen auf landwirtschaftliche Ressourcen.“


Bisher konzentrierten sich die meisten Bemühungen der Branche aus „technischer“ Sicht auf die Verbesserung der Wassereffizienz vor Ort, z. B. auf die Verbesserung der Kühlturmeffizienz des Rechenzentrums und die Verarbeitung von recyceltem Wasser, anstatt die lokalen Trinkwasserressourcen anzuzapfen. Dennoch nutzen die allermeisten Rechenzentren immer noch Trinkwasser und Kühltürme.


Selbst Technologiegiganten wie Google sind beispielsweise stark auf Kühltürme angewiesen und verbrauchen jedes Jahr Milliarden Liter Trinkwasser.


Ein solch enormer Wasserverbrauch hat zu einer Belastung der örtlichen Wasserinfrastruktur geführt; Das Rechenzentrum von Google verbraucht mehr als ein Viertel des gesamten Wassers in The Dalles, Oregon. Darüber hinaus befinden sich viele Rechenzentren auch in dürregefährdeten Gebieten wie Kalifornien.


Unsere Studie zeigt, dass „wann“ und „wo“ das Training eines großen KI-Modells den Wasser-Fußabdruck erheblich beeinflussen kann.


Der zugrunde liegende Grund ist die räumlich-zeitliche Vielfalt der Wassernutzungseffektivität (WUE) sowohl vor Ort als auch außerhalb des Standorts – WUE-Änderungen vor Ort aufgrund von Schwankungen der äußeren Wetterbedingungen und WUE-Änderungen außerhalb des Standorts aufgrund von Schwankungen im Netz Energie-Brennstoff-Mischungen zur Deckung zeitveränderlicher Anforderungen. Tatsächlich schwankt die WUE viel schneller als monatlich oder saisonal.


Durch die Nutzung der räumlich-zeitlichen Diversität von WUE können wir daher das Training und die Inferenz von KI-Modellen dynamisch planen, um den Wasser-Fußabdruck zu reduzieren.


Wenn wir beispielsweise ein kleines KI-Modell trainieren, können wir die Trainingsaufgabe um Mitternacht und/oder an einem Rechenzentrumsstandort mit besserer Wassereffizienz planen. Ebenso ziehen es einige wasserbewusste Benutzer möglicherweise vor, die Inferenzdienste von KI-Modellen zu wassereffizienten Zeiten und/oder in wassereffizienten Rechenzentren zu nutzen, was zur Reduzierung des Wasser-Fußabdrucks von KI-Modellen für Inferenzen beitragen kann.


Ein solches nachfrageseitiges Wassermanagement ergänzt die bestehenden ingenieurtechnischen Ansätze zur Wassereinsparung vor Ort, die sich auf die Angebotsseite konzentrieren. Darüber hinaus ist unser Ansatz softwarebasiert und kann daher kostenlos mit allen Kühlsystemen verwendet werden, ohne dass besondere Anforderungen an die Klimabedingungen oder die Installation neuer Kühlsysteme gestellt werden müssen.


Durch mehr Transparenz könnten wir genau wissen, wann und wo wir die wassereffizientesten KI-Modelle haben.


Syed: Sie schlagen Transparenz als hilfreichen nächsten Schritt vor. Auf welche Fragen könnte uns mehr Transparenz bei der Beantwortung helfen?


Ren: Durch mehr Transparenz könnten wir genau wissen, wann und wo wir die wassereffizientesten KI-Modelle haben.


Transparenz ermöglicht es auch, den Wasser-Fußabdruck der KI-Modelle zu messen, zu vergleichen und zu verbessern, was für die Forschungsgemeinschaft von großem Wert sein kann. Derzeit fordern einige KI-Konferenzen, dass Autoren den CO2-Fußabdruck ihrer KI-Modelle in ihren Beiträgen angeben. Wir glauben, dass Autoren mit Transparenz und Bewusstsein auch den Wasser-Fußabdruck ihrer KI-Modelle als Teil der Umweltauswirkungen angeben können.


Mit solchen Informationen können KI-Modellentwickler ihr KI-Modelltraining besser planen und auch die räumlich-zeitliche Vielfalt nutzen, um die Inferenzanfragen der Benutzer besser weiterzuleiten und so Wasser zu sparen, ohne dass andere Leistungsmetriken beeinträchtigt werden.


Darüber hinaus können Benutzer durch Transparenz auch zur Laufzeit über ihren Wasser-Fußabdruck informiert werden und ihren Wasser-Fußabdruck verbessern (z. B. möchten sie möglicherweise einige nicht dringende Rückschlussanfragen nach Möglichkeit auf wassereffiziente Stunden verschieben).


Apple hat die Planung sauberer Energie in seine iPhone-Produkte integriert, indem es kohlenstoffarme Ladezeiten auswählt, und wir hoffen, dass wasserbewusstes KI-Training und -Schlussfolgerungen in Zukunft auch in die Realität umgesetzt werden können.


Ich hoffe, Sie fanden das genauso zum Nachdenken anregend wie ich! Dieses traf mich besonders in der Nähe meiner Heimat: Mein Vater und meine Schwester sind beide Wasserressourcen-Ingenieure, und ich bin im von Dürre heimgesuchten Südkalifornien aufgewachsen. Wir befinden uns zweifellos in einem Technologieboom – aber Innovation sollte unserem Gemeinwohl dienen und es nicht auslöschen.


Danke fürs Lesen!


Stets,


Nabiha Syed


Geschäftsführer


Das Markup


Von Nabiha Syed


Auch hier veröffentlicht


Foto von David Becker auf Unsplash