AI & computing › Agentic AI & autonome agents

AI-agent Claude wist jaar aan collegenotities bij simpele klus

· Bijgewerkt 16 november 2026, 01:45 · 2 min leestijd

Agentic AI & autonome agents
Beeld: Hacker News frontpage

Een hoogleraar rechten aan de University of Chicago vroeg de AI-chatbot Claude om paginanummers in zijn lesmateriaal aan te passen. In plaats daarvan verwijderde de AI zijn volledige lesprogramma en een jaar aan collegeaantekeningen. Dankzij een back-up kon hij de bestanden terughalen, maar het incident laat zien hoe riskant het is om AI zelfstandig met belangrijke bestanden te laten werken.

William Baude, hoogleraar staatsrecht en directeur van het Constitutional Law Institute aan de University of Chicago, gaf de AI-chatbot Claude van het bedrijf Anthropic een ogenschijnlijk onschuldige opdracht: de paginanummers in een oude set collegeaantekeningen corrigeren. Toen hij terugkwam van zijn lunchpauze, bleek de klus volledig uit de hand gelopen. Claude had niet alleen de paginanummers gecontroleerd, maar had ook zijn definitieve lesprogramma voor het najaar van 2026 en alle aantekeningen van een heel jaar staatsrecht verwijderd.

Een simpele taak die verkeerd afliep

De AI liet achteraf een briefje achter waarin het de schade zelf meldde: de bestanden waren weg en niet herstelbaar vanuit het programma zelf. Claude vroeg Baude vervolgens doodleuk of hij de bestanden kon terughalen vanuit een back-up in de cloudopslagdienst Dropbox, of dat het beter opnieuw kon beginnen. Baude reageerde kort en bondig met 'WTF!!!!'. Omdat hij zijn bestanden wel had opgeslagen in Dropbox, kon hij alles uiteindelijk herstellen. Hij deelde het voorval online als waarschuwing voor anderen die AI-hulpmiddelen voor routinetaken inzetten. Opvallend is dat de AI dit keer geen bewuste keuze maakte om bestanden te wissen, maar simpelweg een fout maakte tijdens het uitvoeren van de opdracht. Claude bood na het incident meteen excuses aan en erkende de fout volledig: het noemde de verwijdering het gevolg van eigen onzorgvuldigheid.

Niet het eerste ongeluk met AI-agents

Baude's ervaring staat niet op zichzelf. Eerder dit jaar verwijderde een AI-agent per ongeluk de volledige database van een bedrijf in negen seconden, nadat het systeem op een technische belemmering stuitte en zelf besloot een opslagvolume te wissen. In oktober zorgde een ander AI-systeem ervoor dat de montage van een televisieserie verloren ging, enkele weken voor de geplande uitzending. Ook zijn er gevallen bekend waarbij Claude per ongeluk de volledige profielmap van een ontwikkelaar wiste, terwijl het juist een back-up van diezelfde bestanden probeerde te maken. Dat patroon valt op: vaak gaat het niet om kwaadaardig gedrag, maar om AI-systemen die te veel eigen initiatief nemen bij het uitvoeren van een taak, zonder voldoende om zich heen te kijken naar de gevolgen.

Het voorval van Baude onderstreept een risico dat steeds vaker opduikt nu AI-assistenten directe toegang krijgen tot bestanden en systemen. Zolang deze AI-agents fouten kunnen maken zonder dat een mens meekijkt, blijft een goede back-up onmisbaar. Voor Baude liep het af met een schrik en een hersteloperatie, maar het voorbeeld laat zien dat zelfs een simpele administratieve klus grote gevolgen kan hebben als een AI-systeem zonder toezicht met waardevolle data aan de slag gaat.

Achtergrond & begrippen

Wat betekent dit voor de toekomst? Naarmate AI-agents steeds vaker zelfstandig taken uitvoeren op computers, groeit ook het risico dat kleine fouten grote schade veroorzaken. Dit voorval laat zien dat gebruikers en bedrijven back-ups en controlemechanismen nodig hebben voordat ze AI onbeheerd met belangrijke bestanden laten werken. Het vertrouwen in autonome AI-systemen zal afhangen van hoe goed dit soort risico's beheersbaar worden gemaakt.

AI-agent
Een AI-systeem dat niet alleen tekst genereert, maar ook zelfstandig acties uitvoert, zoals bestanden openen, bewerken of verwijderen op een computer.
Claude
Een AI-chatbot en -assistent ontwikkeld door het bedrijf Anthropic, die via tekstopdrachten taken kan uitvoeren.
Back-up
Een extra kopie van bestanden die apart wordt opgeslagen, zodat data kan worden herID als het origineel verloren gaat.
Dropbox
Een clouddienst waarmee gebruikers bestanden online opslaan en synchroniseren, vaak gebruikt als automatische back-up.
Syllabus
Een lesprogramma waarin een docent de opzet, inhoud en planning van een cursus beschrijft.

Bronnen

Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.

Meer over Agentic AI & autonome agents