ThoughtDAG maakt onzichtbare AI-context zichtbaar en bewerkbaar

Wie een chatbot als ChatGPT gebruikt, ziet alleen berichten onder elkaar, in de volgorde waarin ze zijn getypt. Wat de chatbot bij een nieuwe vraag daadwerkelijk als context meestuurt naar het taalmodel, blijft grotendeels verborgen. Een nieuwe tool genaamd ThoughtDAG wil daar verandering in brengen door een gesprek voor te stellen als een bewerkbare graaf in plaats van een lineaire lijst.

Chatgeschiedenis verbergt wat een AI-model echt leest

Bij een lang gesprek met een taalmodel stapelen onderwerpen zich op. Vraag je door over de ene onderzoekslijn, dan neemt het model soms ook een terzijde over het avondeten mee in zijn contextvenster, simpelweg omdat dat bericht ergens in de geschiedenis staat. De maker van ThoughtDAG noemt dit 'context pollution': irrelevante zijpaden die stiekem meewegen in het antwoord, zonder dat de gebruiker dat ziet of kan corrigeren.

ThoughtDAG lost dit op door elk bericht, elke bronvermelding en elk antwoord als apart knooppunt in een graaf te tekenen. Gebruikers kunnen vertakken naar een nieuwe interpretatie zonder het oorspronkelijke pad te overschrijven, een zijspoor opzijzetten zodat het zichtbaar blijft maar niet wordt meegestuurd, en meerdere bewijslijnen samenvoegen tot één antwoord. Ook kunnen tekstfragmenten uit een pdf of ander document rechtstreeks aan een knooppunt worden gekoppeld, inclusief bronvermelding.

Knippen, plakken en controleren voor je op verzenden klikt

Het belangrijkste onderdeel is de inspecteerfunctie. Voordat een vraag naar het model gaat, laat ThoughtDAG precies zien welke knooppunten worden meegenomen, in welke volgorde, en hoeveel tokens dat kost. Verwijder je één verbinding tussen knooppunten, dan daalt het aantal verstuurde tokens meteen zichtbaar, en verandert het antwoord van het model als je exact dezelfde vraag opnieuw stelt. Dat maakt aannemelijk wat tot nu toe moeilijk te bewijzen was: een identieke prompt levert met een andere context ook een ander antwoord op.

De tool draait zowel als webapp als als losse desktopapplicatie voor macOS, Windows en Linux, met een lokale rekenmotor zodat er geen aparte serverinstallatie nodig is. De broncode en installatiebestanden staan op GitHub; de macOS-versie is gesigneerd en genotariseerd door Apple, de Windows-versie nog niet, waardoor gebruikers een waarschuwing van Windows Defender SmartScreen moeten wegklikken.

ThoughtDAG is vooral relevant voor mensen die AI-modellen gebruiken bij onderzoek, juridisch werk of andere taken waarbij herleidbaarheid van bronnen en redenering telt. Door de structuur van het gesprek zichtbaar te maken als graaf in plaats van als verborgen geheugen, wordt duidelijker waarom een model tot een bepaald antwoord komt — en kan een gebruiker dat sturen in plaats van er alleen op te vertrouwen.