AI & computing › Agentic AI & autonome agents
Tool bepaalt per regel tekst of mens of AI-agent de auteur is
Een Nederlandse ontwikkelaar bouwde een open-sourcetool die per regel tekst laat zien of die door een mens of door een AI-agent is geschreven. De tool 'Us vs. Them' gebruikt daarvoor niets anders dan de versiegeschiedenis van een bestand, zoals die al in git wordt bijgehouden. Daarmee moet het makkelijker worden om te voorkomen dat AI-agents ongemerkt menselijk werk overschrijven.
Steeds meer code en tekst wordt geschreven of bewerkt door agentic AI: AI-systemen die zelfstandig taken uitvoeren, zoals het aanpassen van een programma of het herschrijven van documentatie. Dat levert een nieuw probleem op: wie heeft een bepaalde regel tekst eigenlijk geschreven, een mens of een agent? De Duitse ontwikkelaar achter het project eighttrigrams publiceerde daarom 'Us vs. Them', een gratis tool die dat per regel probeert vast te stellen.
Waarom herkomst van tekst ertoe doet
Bij het samenwerken met AI-agents ontstaat al snel een mengelmoes van door mensen geschreven tekst en automatisch gegenereerde 'slop', zoals de ontwikkelaar het noemt. Een concreet voorbeeld: een grotendeels door AI gegenereerde app, waarin een ontwikkelaar op een paar plekken zelf code heeft geschreven om zijn eigen ideeën vast te leggen. Zonder duidelijke markering loopt die code het risico dat een volgende AI-sessie hem zonder pardon overschrijft. Hetzelfde geldt voor documentatie: een automatisch gegenereerde README waarvan iemand de openingsalinea's zelf herschrijft, verdient meer bescherming dan de rest van het document.
Hoe de tool werkt
Het slimme aan de aanpak is dat er geen aparte markup nodig is in de tekst zelf. Gewone platte tekst, zoals markdown, werkt direct. De tool maakt in plaats daarvan gebruik van het feit dat elke versie van een bestand in een git-coderepository een bekende auteur heeft, mens of AI. Door opeenvolgende versies met elkaar te vergelijken via een diffalgoritme, bouwt de tool een soort audit trail op van wie welk stuk tekst heeft aangeraakt. Het resultaat is een lijst van tekstbereiken met een score tussen 0 en 1. Een score van 1,00 betekent dat een stuk tekst volledig door een mens is geschreven en nooit is aangepast door een agent. Een score van 0,00 staat voor volledig machinaal gegenereerde tekst. Tussenwaarden, zoals 0,46, laten zien dat oorspronkelijk menselijk werk gedeeltelijk door een AI is bewerkt. Gebruikers geven met de commandoregelparameters --ours en --theirs aan wie de mensen zijn en wie de agents, waarna de tool automatisch de rest classificeert.
Betekenis voor softwareontwikkeling
Het project is klein — nog geen tien sterren op GitHub — maar raakt een vraagstuk dat waarschijnlijk groter wordt naarmate AI-agents een grotere rol krijgen in softwareontwikkeling en tekstproductie. Naarmate meer code 'vibecoded' wordt, dus grotendeels door AI geschreven op basis van korte instructies, groeit ook de behoefte aan human-in-the-loop-mechanismen die aangeven waar mensen bewust hun stempel hebben gedrukt. Tools als deze kunnen helpen om afspraken tussen mens en agent af te dwingen, bijvoorbeeld dat een agent bepaalde regels met rust laat tenzij daar expliciet toestemming voor is. De broncode is vrij beschikbaar en werkt binnen elke bestaande git-repository, zonder dat bestaande projecten hoeven te worden aangepast.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Naarmate AI-agents zelfstandiger code en tekst bewerken, wordt het steeds belangrijker om te kunnen aantonen wie welk stuk werk heeft gemaakt. Tools die herkomst herleiden uit versiegeschiedenis, zonder dat tekst apart gemarkeerd hoeft te worden, kunnen zo'n basis leggen voor vertrouwen tussen mensen en AI-systemen die samen aan hetzelfde document of dezelfde codebase werken.
- Agentic AI
- AI-systemen die zelfstandig meerdere stappen uitvoeren om een taak te voltooien, zoals het aanpassen van code, zonder dat een mens elke actie afzonderlijk aanstuurt.
- Diffalgoritme
- Een techniek die twee versies van een bestand vergelijkt en precies aangeeft welke regels zijn toegevoegd, verwijderd of gewijzigd.
- Versiebeheer
- Een systeem, zoals git, dat elke wijziging aan een bestand bijhoudt inclusief wie de wijziging heeft gemaakt en wanneer.
- Provenance
- De herkomst van een stuk data of tekst: waar het vandaan komt en wie of wat het heeft gemaakt of aangepast.
- Coderepository
- De digitale opslagplaats waarin alle code van een project, inclusief de volledige geschiedenis van wijzigingen, wordt bewaard.
- Audit trail
- Een chronologisch overzicht van acties of wijzigingen, waarmee achteraf te herleiden is wat er is gebeurd en door wie.
- Human-in-the-loop
- Een aanpak waarbij een mens bewust betrokken blijft bij of controle houdt over beslissingen die een AI-systeem neemt.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
