Milieuwetenschappers stellen spelregels op voor programmeren met AI

Een team van het National Center for Ecological Analysis and Synthesis (NCEAS), een onderzoeksinstituut verbonden aan de University of California - Santa Barbara, publiceerde de richtlijnen deze week in het wetenschappelijke tijdschrift PLOS Computational Biology. Het gaat om tien regels voor het verantwoord gebruiken van generatieve AI bij het schrijven van code in de milieuwetenschap, een vakgebied waarin onderzoekers vaak worstelen met enorme hoeveelheden data uit satellietbeelden, landgebruikskaarten en sociaaleconomische bronnen.

De aanleiding was een concreet probleem. Een team van zes onderzoekers bouwde vanaf 2023 de Wildfire Resilience Index, een gratis toegankelijk instrument dat meet hoe goed gemeenschappen en landschappen voorbereid zijn op bosbranden. Het project combineerde data uit twee landen en 13 verschillende bestuurlijke gebieden, verwerkt met de programmeertalen R en Python. Terwijl het project liep, veranderden de AI-programmeertools zo snel dat lessen van een half jaar eerder alweer verouderd waren.

Van interne afspraken naar richtlijn voor het hele vakgebied

Dat probleem bleek niet uniek. Bij NCEAS werken tientallen onderzoeksgroepen naast elkaar aan onderwerpen als bosbranden, biodiversiteit en klimaatverandering. Overal doken dezelfde discussies op: jonge onderzoekers die AI gebruikten zonder de uitkomst goed te kunnen beoordelen, ervaren wetenschappers die het nut betwijfelden, en iedereen die in de tussentijd zijn eigen regels verzon. In plaats van elk project dat opnieuw te laten uitvinden, bracht NCEAS 22 onderzoekers, softwareontwikkelaars en data-analisten bij elkaar om de knelpunten gezamenlijk uit te werken.

Het resultaat is een set van tien regels, verdeeld over drie fases: vóór, tijdens en na het coderen. Voorafgaand raden de auteurs aan goed na te denken over welk AI-hulpmiddel geschikt is voor een project. Tijdens het coderen benadrukken ze dat onderzoekers moeten begrijpen wat een AI-suggestie doet voordat ze die overnemen, in plaats van te vertrouwen op wat soms programmeren op gevoel wordt genoemd. Achteraf pleiten de onderzoekers voor grondige controle van AI-gegenereerde code en het documenteren van keuzes, zodat een project ook maanden later nog te volgen is.

Ongelijke verdeling van voordelen en kosten

De auteurs wijzen ook op keerzijden van generatieve AI die volgens hen te weinig aandacht krijgen. Mannelijke onderzoekers rapporteren grotere productiviteitswinst dan vrouwelijke collega's, en een VN-rapport liet zien dat in sommige rijke landen twee derde van de mensen AI-tools gebruikt, tegenover ongeveer 5 procent in veel lage-inkomenslanden. Doordat grote AI-bedrijven steeds vaker overstappen op betaalde abonnementen, dreigen de krachtigste tools bovendien onbereikbaar te worden voor onderzoekers bij instituten met een klein budget.

Ook de milieukosten van AI zelf komen aan bod. Datacenters kunnen tegen 2030 tussen de 4 en 12 procent van het Amerikaanse elektriciteitsverbruik voor hun rekening nemen, en tegen 2028 mogelijk oplopen tot 121 miljard liter waterverbruik per jaar. Tegelijk zien de onderzoekers een daling van vacatures voor pas afgestudeerde informatici, wat volgens hen lastige vragen oproept over wie verantwoordelijk is voor de opleiding van toekomstige programmeurs. De auteurs, onder wie eerste auteur Rachel King en laatste auteur Cat Fong, benadrukken dat ze geen oordeel vellen over óf AI gebruikt moet worden. Hun regels gaan uitsluitend over hoe je dat, eenmaal besloten, verantwoord doet.