Column Erik Fledderus: “Sustainable prompting”

AI in vele vormen houdt ons, en mij, nog wel even bezig. Bij het schrijven van deze column zocht ik even op waar ik het de vorige keer over had – toen ging het over de mogelijke invloed van generatieve AI op de businessmodellen van uitgevers. Maar ook toen al kon ik kiezen uit meerdere onderwerpen, en één daarvan wil ik vandaag in de schijnwerper zetten: sustainability en AI.

 

Het is een onderwerp dat niet een eigen thema heeft binnen PRIO, maar ik weet van diverse collega’s binnen het lectorenplatform dat ze bezig zijn met de gespannen relatie tussen duurzaamheid en ICT, en AI in het bijzonder. Samen met mijn collega Jeike Wallinga (lector Energietransitie, Windesheim) mocht ik op 24 mei een workshop houden bij Groene Peper. Het centrale thema van deze editie was Inner Development Goals – die zou je kunnen beschouwen als de verandering die je zelf doormaakt, of door moet maken, om de uitdagende doelen te realiseren om deze aarde leefbaar te houden. Dat laatste is bijvoorbeeld uitgedrukt in de Sustainable Development Goals. Nature besteedde onder andere in 2020 (The role of artificial intelligence in achieving the Sustainable Development Goals | Nature Communications) aandacht aan de rol van AI in het realiseren van die SDGs.

 

Naast de aandacht voor circulariteit (zoals hergebruik en repareerbaarheid van hardware – denk aan de FairPhone voor mobiele telefoons of Framework voor laptops) is er de aandacht voor energiegebruik. Vanuit mijn lectoraat hebben we onlangs een bezoek gebracht aan SURF in Amsterdam. Met de nationale supercomputer in huis heeft de coöperatie altijd al een serieuze energierekening gehad, die sinds 2022 nog eens extra hoog is geworden. Alle reden om alles uit de kast te halen om naar duurzame ICT te gaan. Er wordt langs vijf dimensies gewerkt aan deze uitdaging:

  1. De energie die wordt gebruikt is duurzaam opgewekt – non-carbon;
  2. Het ontwerp van het data- en rekencentrum wordt geoptimaliseerd, bijvoorbeeld de koeling en het hergebruik van de warmte;
  3. De software die wordt gebruikt om vraagstukken op te lossen is geoptimaliseerd om energieverbruik te minimaliseren;
  4. De hardware is geoptimaliseerd, op basis van eigenschappen van het vraagstuk;
  5. Het verhogen van het bewustzijn rondom de impact van ICT.

 

In het algemeen zullen in combinaties van deze dimensies voorkomen – een simulatie zal (geoptimaliseerde) software gebruiken, gematcht met het best passende (hardware) rekencluster.

 

Nu naar het onderwerp ‘energiegebruik en (generatieve) AI’. We zien dat zeer generieke LLMn zoals GPT4.o of co-pilot gebruikt worden voor opdrachten variërend van ‘geef een leuke kleurplaat’ tot aan het genereren van een businessmodel-canvas voor de hightech industrie, et cetera. De vraag is of je als gebruiker hier – vanuit een energiegebruik – ook nog handiger kunt kiezen: zijn specifieke LLMn energiezuiniger wanneer je ze met een passende prompt benadert ten opzichte van generieke LLMn – ervan uitgaande dat je toewerkt naar een kwalitatief vergelijkbaar resultaat.

 

Naast de mogelijkheid om ook andere hypotheses op te stellen hebben we nu een andere uitdaging, namelijk om vrij precies het energieverbruik van ons promptgedrag te monitoren. Om tot advies te komen richting een gebruiker zul je dit in ieder geval moeten kunnen meten. In overleg met de experts bij SURF gaan we werken met de Energy Aware Runtime (EAR) code. Deze is nu in gebruik op een paar supercomputers in de wereld, en we zoeken naar mogelijkheden om deze op een lokaal cluster of zelfs een laptop te kunnen runnen.

Ondertussen ben ik benieuwd naar ervaringen van andere collega’s op dit gebied, dus mocht hierover door willen praten – laat het me weten!

 

Erik Fledderus, lector Digital Business & Society, Windesheim

Voorzitter lectorenplatform PRIO