AI & computing › Agentic AI & autonome agents
AI-agents hackten Anthropic, de specialist in AI voor cyberbeveiliging
Een cybersecuritybedrijf gebruikte AI-agents om binnen te dringen in de interne systemen van Anthropic, de maker van de Claude-chatbots. De aanval verliep via software van externe leveranciers en vond plaats binnen Anthropic's eigen bug bounty-programma. Het incident laat zien hoe snel AI-agents inzetbaar zijn voor hacks, zelfs tegen een bedrijf dat zelf voorop loopt in AI voor digitale verdediging.
Het Amerikaanse cybersecuritybedrijf Cathedral wist via AI-agents toegang te krijgen tot interne systemen van Anthropic. Dat meldt de Washington Post op basis van een conceptrapport van Cathedral. Het bedrijf, opgericht door voormalige medewerkers van de Amerikaanse overheidsdienst DOGE, verkoopt zelf AI-beveiligingssoftware aan overheden en bedrijven. De actie maakte deel uit van Anthropic's bug bounty-programma, waarbij beveiligingsonderzoekers tegen een beloning kwetsbaarheden mogen opsporen.
Cathedral kwam niet rechtstreeks binnen bij Anthropic, maar via software van externe leveranciers die het bedrijf gebruikt voor zaken als verkoop en personeelszaken. Volgens Cathedral vonden de AI-agents binnen twaalf uur toegang tot vergaderverslagen, salarisgegevens, vacatureteksten en Slack-berichten. Anthropic bevestigt dat aanvallers bij een beperkt aantal systemen voor verkoop, personeelszaken en IT konden, waaronder contactgegevens van klanten en basale accountgegevens. Gesprekken met de chatbot Claude, broncode en de zogeheten modelgewichten - de kern van een AI-model - zijn volgens het bedrijf niet geraakt.
Anthropic en Cathedral ruziën over de schade
Over de ernst van het incident bestaat flinke onenigheid. Cathedral stelt dat de hele operatie minder dan twaalf uur duurde. Anthropic zegt dat de aanvalspoging dagen aanhield en dat de aanvallers pas na dagen proberen in te breken in de eigen systemen overstapten naar software van derden. Daar vond Cathedral twee kwetsbaarheden, maar meldde er volgens Anthropic maar één. De tweede zou het bedrijf zelf al hebben ontdekt en gerepareerd. Anthropic verwijt Cathedral bovendien dat het de regels van het bug bounty-programma schond door niet alles te melden en data buiten de toegestane grenzen te verzamelen.
Voormalig OpenAI-medewerker Will Depue beweert dat Anthropic de zaak afzwakt. Volgens bronnen die hij vertrouwt, kreeg Cathedral volledige beheerdersrechten over de Slack-werkomgeving, kon het elk bericht lezen en op elk gebruikersaccount inloggen. Anthropic-onderzoeker Logan Graham noemt dat onjuist, maar wil inhoudelijk niet reageren op de details.
AI-agents veranderen het speelveld voor hackers
Het incident toont volgens experts een breder probleem: AI-agents kunnen netwerken nu dag en nacht doorzoeken naar zwakke plekken, tegen lage kosten. Dat Anthropic als doelwit werd gekozen is opvallend, omdat het bedrijf wordt gezien als voorloper op het gebied van AI voor cyberverdediging. Graham waarschuwt dat aanvallers al op grote schaal AI-agents inzetten tegen externe koppelingen van bedrijven, en dat zelfs minder geavanceerde AI-modellen daarvoor al krachtig genoeg zijn. Alex Stamos, beveiligingschef bij AI-bedrijf Cognition, noemt de bevindingen van Cathedral significant en wijst erop dat gekoppelde software van externe leveranciers in de hele sector een zwakke plek vormt.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Dit incident laat zien dat AI-agents cyberaanvallen goedkoper, sneller en schaalbaarder maken, ook tegen bedrijven die zelf voorop lopen in AI-beveiliging. Bedrijven zullen hun digitale afweer voortdurend moeten testen en vernieuwen, omdat aanvallers inmiddels met vergelijkbare AI-technologie werken. Het voorval kan de discussie aanwakkeren over strengere beveiligingseisen voor AI-bedrijven en hun softwareleveranciers.
- AI-agent
- Een AI-systeem dat zelfstandig taken uitvoert, zoals het zoeken naar zwakke plekken in computersystemen, zonder dat een mens elke stap aanstuurt.
- Bug bounty-programma
- Een beloningsprogramma waarbij bedrijven beveiligingsonderzoekers betalen om kwetsbaarheden in hun systemen te vinden en te melden.
- Red teamen
- Het bewust testen van de eigen beveiliging door als aanvaller te denken en te handelen, om zwakke plekken op te sporen voordat echte hackers dat doen.
- Modelgewichten
- De cijferreeksen die bepalen hoe een AI-model werkt; dit vormt de technische kern en vaak het bedrijfsgeheim van een AI-systeem.
- Formele verificatie
- Een methode om met wiskundige bewijzen te garanderen dat software precies doet wat is bedoeld, zonder verborgen fouten of kwetsbaarheden.
- DOGE
- Een Amerikaanse overheidsdienst gericht op efficiëntie binnen de federale overheid, waar de oprichters van Cathedral eerder werkten.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
