Kennisbank › Autonome wapensystemen
Autonome wapensystemen: wanneer een machine zelf beslist wie het doelwit is
Stel je een drone voor die boven een slagveld vliegt, zelf een tank herkent tussen het verkeer, en zonder tussenkomst van een mens besluit die tank aan te vallen. Dat is in de kern wat een autonoom wapensysteem is: een wapen dat zelfstandig doelen kan zoeken, selecteren en uitschakelen, zonder dat er op het beslissende moment een mens op de knop drukt. Het onderwerp staat volop in de belangstelling omdat kunstmatige intelligentie (AI, computersystemen die patronen herkennen en beslissingen nemen op basis van data) steeds krachtiger wordt en steeds vaker in militaire technologie wordt ingebouwd.
Vergelijk het met het verschil tussen een gewone raket en een slimme jachthond. Een gewone geleide raket volgt een vooraf ingesteld doel, bijvoorbeeld de GPS-coördinaten van een gebouw. Een autonoom wapen lijkt meer op een jachthond die je loslaat met de opdracht 'zoek een vijandig voertuig' en die vervolgens zelf, op basis van wat hij onderweg waarneemt, beslist welk voertuig dat is en wanneer hij toeslaat. Die verschuiving van mens naar machine als beslisser over leven en dood roept fundamentele vragen op over verantwoordelijkheid, veiligheid en internationaal recht.
Wat is het precies?
Een autonoom wapensysteem bestaat meestal uit drie onderdelen die samenwerken: sensoren, een beslissingsalgoritme en een wapen. De sensoren, bijvoorbeeld camera's, radar of infraroodbeeldvorming, verzamelen informatie over de omgeving. Dat is te vergelijken met de ogen en oren van het systeem.
Die informatie gaat vervolgens naar een beslissingsalgoritme, vaak gebaseerd op machine learning (een vorm van AI waarbij een computer patronen leert herkennen door te trainen op grote hoeveelheden voorbeelden, bijvoorbeeld duizenden foto's van tanks). Dit algoritme classificeert wat het ziet: is dit een burgerauto of een gevechtsvoertuig, een boer of een gewapende strijder? Op basis van vooraf ingestelde regels en geleerde patronen bepaalt het systeem of iets een geldig doelwit is.
Het derde onderdeel is de daadwerkelijke wapeninzet: een raket, een boordkanon of, bij zogeheten loitering munitions ('rondhangende munitie', drones die boven een gebied kunnen blijven cirkelen tot ze een doel vinden), de drone zelf die tot ontploffing komt bij de inslag. Cruciaal is de mate van menselijke controle. Experts maken onderscheid tussen 'human in the loop' (een mens moet elke aanval goedkeuren), 'human on the loop' (een mens houdt toezicht en kan ingrijpen) en 'human out of the loop' (het systeem handelt volledig zelfstandig, zonder mogelijkheid tot ingrijpen). Veel discussie draait om die laatste categorie, omdat daar de mens feitelijk buitenspel staat op het moment van de aanval.
Wat wil men ermee bereiken?
Legers noemen verschillende redenen om autonomie in wapensystemen te ontwikkelen. Ten eerste snelheid: in een luchtgevecht of bij een raketaanval kunnen beslissingen binnen milliseconden nodig zijn, sneller dan een mens kan reageren. Ten tweede het beschermen van eigen militairen, doordat gevaarlijke taken worden overgenomen door onbemande systemen. Ten derde consistentie: voorstanders beweren dat een machine, in theorie, minder snel in paniek raakt of woede-uitbarstingen krijgt dan een vermoeide soldaat, en dus preciezer zou kunnen zijn.
Er is ook een strategisch argument: landen willen niet achterblijven als concurrenten deze technologie wel ontwikkelen. Dit staat bekend als een wapenwedloop-dynamiek, waarbij het simpele feit dat één partij investeert, andere partijen dwingt hetzelfde te doen uit angst een achterstand op te lopen.
Tegelijk klinkt vanuit maatschappelijke organisaties, wetenschappers en delen van de VN al jaren felle kritiek. Zij wijzen op het risico van fouten door slechte beeldherkenning, het ontbreken van duidelijke verantwoordelijkheid als er iets misgaat, en het principiële bezwaar dat een machine geen moreel oordeel kan vellen over leven en dood.
Voorbeelden uit de praktijk
Een aantal systemen laat zien hoe ver de praktijk al gevorderd is:
- Kargu-2 (Turkije, fabrikant STM) — een kleine loitering munition-drone die volgens een VN-rapport uit 2021 mogelijk autonoom is ingezet tegen troepen in Libië in 2020, wat internationaal veel discussie opriep over de vraag of dit de eerste gedocumenteerde autonome aanval op mensen was.
- Harpy en Harop (Israël, Israel Aerospace Industries) — loitering munitions die al sinds de jaren negentig worden ontwikkeld en die zelfstandig radarinstallaties van luchtafweersystemen kunnen opsporen en vernietigen.
- SGR-A1 (Zuid-Korea, Samsung/Hanwha) — een stationair bewakingsgeschut bij de gedemilitariseerde zone met Noord-Korea, dat mensen kan detecteren en volgen; het vuren gebeurt volgens officiële verklaringen met menselijke goedkeuring, maar het systeem beschikt technisch over een autonome modus.
- Sea Hunter (Verenigde Staten, DARPA/marine) — een onbemand oppervlakteschip, in 2016 gepresenteerd, ontworpen om zelfstandig duikboten op te sporen; het draagt in de huidige opzet geen wapens, maar toont hoe autonome navigatie op grote schaal al werkt.
- Uran-9 (Rusland) — een onbemand gevechtsvoertuig op rupsbanden dat is getest in Syrië rond 2018; publieke rapporten meldden technische problemen met communicatie en besturing, wat illustreert dat de praktijk vaak weerbarstiger is dan de aankondigingen.
Hoe ver is de techniek?
De ontwikkeling gaat snel, maar volledig autonome dodelijke wapens die zonder enige menselijke rol opereren, zijn nog geen wijdverbreide standaardpraktijk. De meeste operationele systemen werken met een vorm van menselijk toezicht, al is die soms minimaal of makkelijk te omzeilen.
De grootste technische obstakels liggen bij beeldherkenning in complexe, rommelige omgevingen. Algoritmen die in laboratoriumtests uitstekend scoren, maken in de chaos van een echt conflict, met rook, kapotte gebouwen en vluchtende burgers, aanzienlijk meer fouten. Dit staat bekend als het probleem van 'distributional shift': het systeem presteert slechter zodra de werkelijkheid afwijkt van de trainingsdata.
Een tweede obstakel is verificatie: hoe test je betrouwbaar of een AI-systeem zich in elke denkbare situatie aan de regels van het humanitair oorlogsrecht houdt, zoals het onderscheid tussen burgers en strijders? Daar bestaat nog geen sluitende methode voor. Ook cyberkwetsbaarheid is een zorg: autonome systemen kunnen mogelijk gehackt, misleid of van hun koers gebracht worden, bijvoorbeeld door sensoren te misleiden met nepbeelden (zogeheten adversarial attacks).
Op diplomatiek vlak onderhandelen landen sinds 2014 binnen de Verenigde Naties, in het kader van het Verdrag inzake Bepaalde Conventionele Wapens (CCW), over mogelijke regels of een verbod op 'Lethal Autonomous Weapons Systems' (LAWS). Tot op heden is er geen bindend internationaal verdrag, vooral omdat grote militaire mogendheden het oneens zijn over definities en de mate van beperking.
Wie werken eraan?
De ontwikkeling wordt gedomineerd door een beperkt aantal landen met grote defensiebudgetten. De Verenigde Staten investeren via het Pentagon en onderzoeksbureau DARPA, met bedrijven als Anduril, Lockheed Martin en Northrop Grumman als belangrijke uitvoerders. Het Amerikaanse ministerie van Defensie hanteert sinds 2012 (herzien in 2023) de richtlijn DoD Directive 3000.09, die eist dat autonome wapens 'passende niveaus van menselijk oordeel' bij het gebruik van geweld behouden.
Israël loopt technologisch voorop met loitering munitions via Israel Aerospace Industries en Elbit Systems, mede door decennialange ervaring met grensbeveiliging. Turkije heeft met STM een eigen positie opgebouwd, zichtbaar geworden door de Kargu-2. China investeert zwaar in militaire AI als onderdeel van zijn 'intelligentiseringsstrategie' van de strijdkrachten, met betrokkenheid van staatsbedrijven zoals NORINCO. Rusland ontwikkelt onbemande grondvoertuigen en luchtsystemen, al blijkt uit veldrapporten dat de praktische betrouwbaarheid nog achterblijft bij de ambities.
Aan de andere kant van het debat staan onderzoeksinstellingen en maatschappelijke coalities die pleiten voor regulering, zoals de Campaign to Stop Killer Robots, het Internationale Rode Kruis (ICRC) en academische centra zoals het Stockholm International Peace Research Institute (SIPRI), die de ontwikkelingen documenteren en beleidsmakers adviseren.