[column] Hongerig en dorstig AI & Crypto

[Kappetijn]

Laatst wou ik iets weten en vroeg het aan mijn vrouw. Wij raakten een half uur in gesprek. Ik stelde ongeveer dertig vragen. Haar tientallen miljarden zenuwcellen in haar schedel gingen flink aan de slag. Het 1,0 – 1,5 kilo wegende brein met een vermogen van ongeveer 14 Watt verbruikte de nodige energie in de vorm van vrijkomende warmte. In dat halve uur 7 Wh of wel 0,007 kWh. Verder dronk zij een kopje thee, goed voor 150 ml water.

Zoals in ieder goed huwelijk vertrouwde ik haar antwoorden wel maar wou ik toch nog even voor de zekerheid controleren. In wendde mij tot ChatGPT waar naar schatting het beantwoorden van iedere vraag zo’n 0,00083 kWh aan energie en 20 ml aan water kost. Met mijn dertig vragen gebruikten de servers en aanpalende infrastructuur van knooppunten van dienstenaanbieder OpenAI 0,025 kWh voor het rekenen en een halve liter water voor het koelen. Mijn vrouw denkt dus qua energieverbruik 3,5 keer zo efficiënt als ChatGPT en is 3,5 keer minder dorstig.

De simpele conclusie is dat wij vanuit het oogpunt van klimaat en milieu beter BI (Biological Intelligence) dan AI (Artificial Intelligence) kunnen gebruiken. Dit illustratief bedoelde sommetje op basis van de schaarse en daardoor veelal onvolledige gegevens over de energie- en waterconsumptie van AI, zijn natuurlijk leuk om te maken maar geven niet het volledige beeld van de enorme uitdagingen waarvoor de mensheid zich ziet gesteld door de stormachtige opkomst van AI-diensten die gebaseerd zijn op machine learning en Large Language Models (LLMs) in het bijzonder. Voorbeelden zijn ChatGPT, Bard, Bing, Ernie Bot (China) en GigaChat (Rusland) en alle andere AI-diensten met LLM. Ondanks dat de bedrijven als Google, OpenAI en Microsoft uiterst terughoudend zijn met het geven van informatie over het energie- en waterverbruik, zijn er toch wel enige redelijk betrouwbare schattingen over the carbon and water footprint van AI.

Zo kostte twee jaar geleden het trainen van GPT-3 bijna 1,3 GWh. Dat is het gemiddelde jaarlijkse elektriciteitsverbruik van ruim 500 woningen in Nederland. Die training van GPT-3 genereerde 500 ton aan CO₂ dat net zoveel is als ongeveer 550 personenauto’s in Nederland jaarlijks uitstoten. En dat is slechts de training van een enkel model en niet het gebruik. Naar schatting verstoken LLMs bij gebruik 1,5 keer zoveel energie als bij de training. Da naar schatting 1,5 miljard bezoekers die ChatGPT maandelijks raadplegen, verbruiken jaarlijks net zoveel energie als 780 woningen en genereren net zoveel CO₂ als 825 personenauto’s in Nederland.

Een ander interessante indicatie kwam van Google dat bekend maakte dat hun AI-toepassingen 10-15% van de totale energieconsumptie van het bedrijf voor hun rekening nemen. Dat komt neer op 2,3 TWh per jaar of wel de jaarlijkse elektriciteitsconsumptie van 800.000 woningen in Nederland.

Dat dit nog maar een schuchter beginnetje is volgt uit het feit dat de modellen voor LLM steeds groter en complexer worden. Dat blijkt uit het aantal parameters: GPT-2 had er 1,5 miljard , GPT-3 175 miljard en GPT-4 beschikt over tien keer zoveel parameters. Uiteraard wordt er op allerlei manieren hard gewerkt aan het verbeteren van de energie-efficiënte. Bijvoorbeeld door het vervangen van de traditionele rekenchips, de CPUs, door graphical processing units (GPUs) die voor de LLMs 300 keer efficiënter rekenen maar wel 40 keer zoveel energie vreten. Grote LLMs vereisen tienduizenden GPUs. Die worden geproduceerd door met name het Amerikaanse bedrijf Nvidia waarvan de waardering op de beurs in een jaar tijd is verdrievoudigd.

Het gebruik van GPUs betekent niet dat het probleem van de uit de hand lopende energieconsumptie van AI is opgelost. Sasha Luccioni, onderzoeker van het AI-bedrijf Hugging Face, die een van de auteurs was van een artikel over de CO₂-voetafdruk van het bedrijf BLOOM dat een concurrent van OpenAI is, stelt dat uiteindelijk de GPUs van LLMs net zoveel CO₂ zullen uitstoten als een klein land. Ze zegt: “It’s going to be bananas.”

Dezelfde dreiging komt van het excessieve watergebruik, met name voor de koeling van de servers. In april dit jaar verscheen op arXiv het artikel ‘Making AI less “Thirsty”: Uncovering and Addressing the Secret Water Footprint of AI Models’. De auteurs stellen dat de training van GPT-3 700.000 liter water heeft gekost. Net zoveel water als 4.000 Nederlandse gezinnen in een jaar verbruiken. Bij hun poging om hun modellen voor het berekenen van de water usage effectiveness (WUE) te verbeteren, lopen de onderzoekers aan tegen het probleem dat de betrokken bedrijven op dit gebied erg gesloten zijn. Zo zijn bijvoorbeeld plaats en het tijdstip van het gebruik van de servers bepalend voor de effectiviteit van het watergebruik.

En dan hebben wij het nog alleen maar over de schrikbarend grote CO₂- en H₂O-voetafdrukken van het explosieve gebruik van elektriciteit en water door de AI-industrie. Ook lijkt er geen maat te staan op het energieverbruik voor het mijnen van cryptomunten zoals de Bitcoin en Ethereum. De onderliggende block chain technologie zorgt volgens de Cambridge Bitcoin Electricity Consumption Index voor een elektriciteitsverbruik bij het crypto mijnen van 120 TWh. Dat enorme getal komt ongeveer overeen met het jaarlijkse elektriciteitsverbruik van landen als Nederland en Argentinië.

Het voltooien van een Bitcoin-transactie varieert tussen de 700 en 1.500 kWh. Dat is de stroom die een gemiddeld Nederlands gezin in drie tot zeven maanden verbruikt. Die ongeremde honger naar elektriciteit was vorig jaar voor de senaat van de staat New York reden om een tweejarig moratorium in te stellen op nieuwe vergunningen voor het mijnen van crypto als daarbij gebruik wordt gemaakt van elektriciteit van centrales die draaien op fossiele brandstoffen.

Tenslotte heb ik aan ChatGPT gevraagd wat ‘ie’ ervan vindt. Een deel van het enigszins door mij geredigeerde antwoord is: ”AI kan helpen bij het optimaliseren van het energieverbruik van blockchain-systemen. Intelligente algoritmen kunnen helpen bij het identificeren van energiezuinige mechanismen om tot overeenstemming te komen (consensus), het optimaliseren van verdeling van beschikbare middelen (resources) en het verbeteren van processen voor het geldig verklaren (valideren) van transacties. AI-technieken, zoals machine learning kunnen ook worden ingezet om het energieverbruik van AI-modellen te verminderen, waardoor meer duurzame AI-systemen mogelijk worden.”

Dat vind ik een nogal optimistische benadering. Als ik kijk naar de huidige ontwikkeling, kom ik tot maar één conclusie. De groeiende aanslag van AI en crypto op het milieu loopt uit de hand en is onhoudbaar. Deze ontwikkeling staat haaks op het bestrijden van de klimaatcrisis. Twintig jaar geleden heb ik langere tijd samengewerkt met IT-ondernemer en groene investeerder Eckart Wintzen. Hij was optimistisch over de mogelijkheden van telecommunicatie en elektronische media, zoals video vergaderen om het milieu te ontlasten door minder te reizen. Hij zei: “Verplaats geen moleculen maar bits!” Dat was dus te simpel. Informatie verwerken, opslaan en transporteren kost energie. Dat natuurkundige feit zet een rem op de ongebreidelde groei van de huidige vormen van AI en crypto. Het wordt de hoogste tijd voor transparantie van de aanbiedende Big Tech bedrijven en concrete plannen om deze harde noot te kraken.

[Math-E-Mad-X]

Allemaal leuk en aardig, maar elke keer dat men het weer heeft over energie verbruik, vergeet men voor het gemak het allermeest vervuilende product dat wij mensen produceren. Namelijk: babies!

De meeste van die babies zullen namelijk opgroeien tot volwassen mensen die zich gedurende hun hele leven zullen moeten verplaatsen, van huis naar school, naar werk, en naar vakantie bestemmingen. Dag in dag uit. Dat kost allemaal energie. En daar komt nog bij alle energie die nodig is om voedsel te produceren voor al die mensen. En bovendien zullen die volwassen mensen op hun beurt ook weer nieuwe babies produceren, wat zorgt voor een exponentiele groei.

Weet je wel dat alle Nederlanders bij elkaar net zoveel energie verbruiken als een heel land, ter grootte van Nederland!

Dat is misschien een beetje flauw, maar wat ik bedoel te zeggen, is dat energie besparende maatregelen allemaal weinig zin hebben als je al die besparingen gelijk weer door de goot spoelt door meerdere kinderen op de wereld te zetten.

Dat is wat mij betreft het grote taboe in de klimaatdiscussies waar niemand over wil praten.

Ik bedoel daarmee overigens niet te zeggen dat we dan maar moeten stoppen met energiebesparende maatregelen, maar het lijkt me wel belangrijk om de dingen in perspectief te blijven zien.

[boertje125]

toch is het raar dat een betaling met crypto zoveel energie kost en dat die betalingen op het moment maar een ontzettend klein deel uitmaken van het totaal aantal betalingen dat dagelijks wordt verricht.

daaruit blijkt m.i. dat crypto gaat ploffen of heel sterk moet veranderen om te blijven bestaan.

[wnvl1]

Kan het energieverbruik van crypto niet opgelost worden met proof of stake (in tegenstelling tot proof of work)?

[Kappetijn]

Onlangs kwam ik dit goede artikel tegen over de groeiende energievoetafdruk van kunstmatige intelligentie. https://www.cell.com/joule/fulltext/S25 ... 23)00365-3

[Rinusman]

Transacties met crypto's die volgens het proof of stake protocol werken, gebruiken inderdaad nauwelijks energie (Cardano is hiervan een goed voorbeeld). Bitcoin werkt volgens een proof of work protocol. Voor de energievoorziening zijn Bitcoin miners veelal te vinden op plekken waar een energieoverschot bestaat (waterkrachtcentrales of energie uit het afvakkelen van gassen bij olieboringen).
Wat je ook moet bedenken is dat de hele bancaire sector veel energie kost (computerkracht, verwarmen van grote kantoorgebouwen, transport van alle medewerkers).