Cyberclassificator: hoe AI digitale dreigingen herkent en sorteert

Stel je een enorme sorteerband voor op een postbedrijf, waar dag en nacht miljoenen pakketjes voorbijkomen. Een menselijke controleur zou het nooit bijbenen om elk pakketje open te maken en te beoordelen. Daarom staat er een machine die razendsnel röntgenfoto's maakt en op basis van vorm, gewicht en inhoud beslist: dit pakket is veilig, dit is verdacht, dit moet eruit. Een cyberclassificator doet iets vergelijkbaars, maar dan met digitaal verkeer: bestanden, e-mails en netwerkdata die razendsnel worden gescand en ingedeeld als onschuldig, verdacht of ronduit gevaarlijk.

De term "cyberclassificator" is geen vaste, officiële vaknaam die je in een studieboek tegenkomt. Het is een beschrijvende term voor een breder soort techniek: kunstmatige intelligentie, specifiek machine learning (het geautomatiseerd herkennen van patronen in data zonder dat een mens elke regel expliciet programmeert), die wordt ingezet om cyberdreigingen te herkennen en in categorieën in te delen. Deze systemen draaien al jaren, vaak onzichtbaar, in antivirussoftware, spamfilters en de beveiligingscentra van grote bedrijven.

Wat is het precies?

Een cyberclassificator is in essentie een classifier: een wiskundig model dat leert om nieuwe gevallen in te delen in vooraf bepaalde categorieën, op basis van voorbeelden die het eerder heeft gezien. Bij cyberbeveiliging zijn die categorieën bijvoorbeeld "schadelijk" versus "onschuldig", of specifieker: "ransomware", "phishing-mail", "normaal netwerkverkeer".

Het proces verloopt meestal in een aantal stappen. Eerst wordt data verzameld: bestanden, e-mails, netwerkpakketten of logbestanden. Daaruit worden kenmerken (features) gehaald, zoals de grootte van een bestand, welke systeemfuncties het aanroept, of van welk land een inlogpoging komt. Vervolgens wordt een model getraind op grote hoeveelheden gelabelde voorbeelden: duizenden stukjes bekende malware naast duizenden schone bestanden, zodat het systeem het verschil leert herkennen. Na de training kan het model nieuwe, nog nooit geziene bestanden of verkeer beoordelen en er een label aan hangen. Op basis van dat label volgt een actie: blokkeren, in quarantaine plaatsen, of een alarm sturen naar een menselijke analist.

Voor dit trainen worden uiteenlopende technieken gebruikt, van relatief eenvoudige beslisbomen en "random forests" (verzamelingen van veel beslisbomen die samen stemmen) tot complexere neurale netwerken en deep learning, geïnspireerd op de werking van hersencellen. Belangrijk is het onderscheid met anomaliedetectie: waar een classificator leert wat "kwaadaardig" en "goedaardig" betekenen op basis van voorbeelden, kijkt anomaliedetectie vooral naar afwijkingen van het normale patroon, zonder dat vooraf vaststaat wat die afwijking precies is. In de praktijk worden beide benaderingen vaak gecombineerd.

Wat wil men ermee bereiken?

De belangrijkste drijfveer is snelheid en schaal. Grote organisaties verwerken dagelijks miljoenen e-mails, inlogpogingen en netwerkverbindingen. Geen enkel team van menselijke analisten kan dat handmatig beoordelen. Een classificator kan dat werk in milliseconden doen, continu, zonder pauze.

Een tweede doel is het opsporen van onbekende dreigingen. Traditionele beveiligingssoftware werkt vaak met "signatures": een soort digitale vingerafdruk van bekende malware. Dat werkt goed tegen bekende bedreigingen, maar niet tegen een zero-day: een aanval die misbruik maakt van een kwetsbaarheid die nog niemand kende en waarvoor dus nog geen tegenmaatregel bestaat. Een goed getrainde classificator kan, in theorie, ook nieuw en onbekend kwaadaardig gedrag herkennen omdat het lijkt op patronen die het eerder heeft geleerd, zonder dat er al een specifieke signature voor bestaat.

Een derde, praktisch doel is het terugdringen van false positives: gevallen waarin het systeem iets onschuldigs ten onrechte als gevaarlijk bestempelt. Te veel valse alarmen leiden tot "alert fatigue" bij beveiligingsanalisten in een SOC (Security Operations Center, het team en de ruimte waar dreigingen worden gemonitord en waarop wordt gereageerd): als een systeem constant onterecht alarm slaat, gaan mensen waarschuwingen negeren, met als risico dat een echte aanval tussen de ruis verdwijnt. Een goede classificator probeert dus niet alleen dreigingen te vinden, maar ook de aandacht van schaarse menselijke experts te richten op de gevallen die er het meest toe doen.

Voorbeelden uit de praktijk

Verschillende bekende bedrijven en systemen laten zien hoe classificatietechnieken in de praktijk worden toegepast:

• CrowdStrike Falcon (het bedrijf werd opgericht in 2011) is een platform voor endpoint detection and response (EDR: technologie die apparaten zoals laptops en servers doorlopend monitort op verdacht gedrag). Falcon werd vanaf het midden van de jaren 2010 op de markt gebracht als alternatief voor traditionele antivirussoftware, met machine learning als kern van de malwareclassificatie in plaats van alleen vaste signatures.
• Darktrace, opgericht in 2013 in Cambridge (Verenigd Koninkrijk), werd bekend met het concept van het "Enterprise Immune System": software die het normale netwerkgedrag van een specifieke organisatie leert kennen, om vervolgens afwijkingen daarvan te classificeren als mogelijk gevaarlijk.
• Gmail van Google gebruikt al jarenlang machine-learning-classifiers om spam, phishing-mails en schadelijke bijlagen te filteren voordat gebruikers ze te zien krijgen. Google claimt hiermee het overgrote deel van dit soort ongewenste en schadelijke e-mail tegen te houden, al publiceert het bedrijf niet altijd exacte, onafhankelijk geverifieerde cijfers hierover.
• Microsoft Defender, aangevuld met Microsoft Security Copilot (aangekondigd in 2023), combineert klassieke ML-classificatie met generatieve AI (taalmodellen die tekst kunnen genereren) om beveiligingsanalisten te helpen dreigingen sneller te classificeren, samen te vatten en te prioriteren.
• MITRE ATT&CK is zelf geen zelflerend systeem, maar een veelgebruikt classificatieraamwerk: een publiek toegankelijke kennisbank van bekende aanvalstechnieken, waarop veel commerciële classificators hun eigen categorieën baseren zodat bedrijven onderling dezelfde taal spreken over dreigingen.

Hoe ver is de techniek?

Cyberclassificators zijn allang geen toekomstmuziek meer: ze zitten al standaard verwerkt in commerciële antivirussoftware, EDR-platforms en e-mailbeveiliging. In die zin is de techniek volwassen en breed uitgerold. Toch kleven er stevige, eerlijk te benoemen beperkingen aan.

Een van de grootste problemen is adversarial machine learning, ook wel evasion-aanvallen genoemd: aanvallers ontwerpen hun malware of phishing-mail bewust zo dat die net buiten het geleerde patroon van de classificator valt, waardoor het systeem wordt misleid. Dit is een actief onderzoeksveld, omdat elke verbetering aan een classificator in potentie ook aanvallers helpt om te ontdekken hoe ze eromheen kunnen werken.

Daarnaast is er concept drift: dreigingen veranderen voortdurend, waardoor een model dat gisteren goed werkte, morgen verouderd kan zijn. Classificators moeten dus regelmatig opnieuw getraind worden met verse data, wat tijd, rekenkracht en goed gelabelde voorbeelden vereist.

Een derde obstakel is het "black box"-probleem: vooral diepe neurale netwerken kunnen moeilijk uitleggen waaróm ze een bepaald bestand als gevaarlijk bestempelen. Dat maakt het lastiger voor menselijke analisten om beslissingen te controleren, en het bemoeilijkt verantwoording afleggen wanneer een classificator een fout maakt. False positives en false negatives (dreigingen die juist gemist worden) blijven daarnaast een structureel probleem, hoe goed het model ook getraind is.

Ten slotte is er een bredere wapenwedloop gaande: net zoals verdedigers AI inzetten om dreigingen te classificeren, gebruiken aanvallers zelf ook steeds vaker AI, bijvoorbeeld om overtuigendere phishing-teksten te genereren of malware automatisch te laten muteren. Dat maakt dit geen probleem dat ooit "opgelost" wordt, maar eerder een voortdurende wisselwerking tussen aanval en verdediging.

Wie werken eraan?

Op commercieel vlak zijn onder meer CrowdStrike, Microsoft, Google, Palo Alto Networks, Darktrace, IBM, Cisco (met zijn onderzoeksteam Talos) en Kaspersky grote spelers die machine-learning-classificatie inbouwen in hun beveiligingsproducten.

Op onderzoeksvlak dragen instellingen zoals MIT CSAIL (het Computer Science and Artificial Intelligence Laboratory van het Massachusetts Institute of Technology), de onderzoeksgroep Digital Security van de Radboud Universiteit Nijmegen, TNO (de Nederlandse organisatie voor toegepast natuurwetenschappelijk onderzoek) en Carnegie Mellon University (via het CyLab-instituut) bij aan fundamenteel onderzoek naar detectiemethoden en de kwetsbaarheden ervan.

Daarnaast spelen overheidsinstanties een rol bij standaardisatie en coördinatie: het Amerikaanse NIST (National Institute of Standards and Technology) publiceert richtlijnen over betrouwbare AI, het Europese cybersecurityagentschap ENISA brengt rapporten uit over AI en cyberdreigingen, het Nederlandse NCSC-NL (Nationaal Cyber Security Centrum) coördineert nationale respons op digitale dreigingen, en het Amerikaanse defensie-onderzoeksagentschap DARPA heeft in het verleden onderzoeksprogramma's gefinancierd rond geautomatiseerde cyberverdediging.

Verder lezen

• NIST — Amerikaans standaardisatie-instituut met richtlijnen over betrouwbare en veilige AI.
• ENISA — het cybersecurityagentschap van de Europese Unie, met rapporten over AI en dreigingen.
• NCSC-NL — het Nationaal Cyber Security Centrum van Nederland.
• MITRE ATT&CK — veelgebruikt classificatieraamwerk voor aanvalstechnieken.
• OWASP — open cybersecurity-gemeenschap, onder meer met werk over de beveiliging van machine-learning-systemen zelf.