Open-source tool Conduct zet rem op AI-agents voordat ze iets fout doen

Van waarschuwen naar blokkeren

Steeds meer bedrijven laten AI-assistenten zelfstandig taken uitvoeren: code schrijven, bestanden aanpassen, systemen aanroepen. Dat heet agentic AI. Het probleem: bestaande beveiligingstools kijken vooral achteraf mee. Ze loggen wat een AI-agent heeft gedaan, maar grijpen niet in voordat het gebeurt. Als een AI-agent per ongeluk een productiedatabase leegtrekt of gevoelige bestanden deelt, is de schade dan al aangericht.

Het nieuwe open-source project Conduct, gebouwd door ontwikkelaar Sudhi Seshachala, pakt dit anders aan. De software fungeert als een soort poortwachter die vooraf beslist of een actie van een AI-agent mag doorgaan. Dat noemen de makers guardrails: technische grenzen die voorkomen dat een AI-systeem buiten de afgesproken kaders handelt.

Blokkeren, waarschuwen of aanpassen

De kern van Conduct heet Guard. Dit onderdeel beoordeelt elke actie die een AI-agent wil uitvoeren en kiest tussen vier opties: toestaan, blokkeren, waarschuwen of de opdracht aanpassen voordat die wordt uitgevoerd. Belangrijk verschil met bestaande tools: als Guard zelf uitvalt of twijfelt, kiest het systeem standaard voor blokkeren in plaats van doorlaten. Dat heet 'fail-closed' en is in de beveiligingswereld de veiligere, maar minder gebruiksvriendelijke keuze.

Guard controleert acties op drie plekken: bij losse opdrachten in ontwikkeltools zoals Claude Code, Cursor, GitHub Copilot en Codex, bij aanroepen via het Model Context Protocol (de standaard waarmee AI-modellen externe tools aanspreken), en bij elk verzoek dat via de meegeleverde Router-proxy naar een taalmodel van Anthropic, OpenAI of Perplexity gaat. Elke beslissing van Guard wordt vastgelegd in een audit trail die cryptografisch aan elkaar is geketend: verwijder of verander je één regel, dan valt dat meteen op bij controle.

Kant-en-klare regelsets voor regelgeving

Conduct levert ruim twintig kant-en-klare 'compliance packs' mee: verzamelingen regels die aansluiten op bestaande beveiligings- en privacywetgeving, waaronder de OWASP-richtlijnen voor softwarebeveiliging, de Amerikaanse zorgwet HIPAA, de betaalkaartstandaard PCI DSS en de Europese AI-verordening (EU AI Act). Bedrijven hoeven zulke regels dus niet zelf te schrijven, maar kunnen een kant-en-klaar pakket activeren.

Wie de tool eerst wil uitproberen zonder meteen te handhaven, kan starten met de gratis 'Discovery'-modus: veertien dagen lang alleen meekijken wat AI-agents binnen een organisatie doen, zonder dat er iets wordt geblokkeerd. Pas daarna kan een team ervoor kiezen om regels daadwerkelijk af te dwingen.

De broncode van Conduct staat onder de Apache 2.0-licentie op GitHub en is vrij te gebruiken en aan te passen. Er is ook een betaalde, gehoste versie via conductai.ai, met extra functies zoals teambeheer en een marktplaats voor regelsets. Het initiatief past in een bredere trend: naarmate AI-agents meer autonomie krijgen, groeit ook de vraag naar technische controlemechanismen die vooraf ingrijpen in plaats van achteraf te rapporteren.