De Secretaris-Generaal van de Verenigde Naties en de voorzitter van het Internationale Comité van het Rode Kruis (ICRC) hebben opnieuw een dringende oproep gedaan aan regeringen om juridisch bindende internationale regels voor autonome wapensystemen aan te nemen. Ze waarschuwen dat de wereld een “ethische rode lijn” nadert waarop machines zelfstandig mensen kunnen selecteren en aanvallen. In een gezamenlijke verklaring in Genève benadrukten de twee leiders dat de risico’s van dit soort wapens aanzienlijk zijn toegenomen sinds hun vorige oproep drie jaar geleden.
In hun verklaring staat dat de snelle ontwikkelingen in de militaire technologie vooruitlopen op de bestaande wet- en regelgeving. De VN en het ICRC waarschuwen dat wapensystemen met een toenemende mate van autonomie nu al worden ingezet in conflictsituaties, wat het risico op schade aan burgers en burgerinfrastructuur vergroot. Ze stellen dat de groeiende kloof tussen technologische mogelijkheden en internationaal toezicht de bescherming die het internationaal humanitair recht biedt, dreigt te ondergraven.
In die context benadrukken de twee organisaties dat autonome wapensystemen geen science fiction zijn, maar realiteit worden. Ze wijzen erop dat wetenschappers en ingenieurs die aan die technologie werken zelf hebben opgeroepen tot beperkingen, omdat ze zich zorgen maken over minder menselijke controle bij beslissingen over de inzet van dodelijk geweld.
De afgelopen jaren leverde de VN de grotere inspanningen om dit probleem aan te pakken. Lidstaten hebben autonome wapens besproken in de Algemene Vergadering van de VN en binnen de Groep van Regeringsdeskundigen van het Verdrag over bepaalde conventionele wapens (CCW). Die leidden tot een gezamenlijk inzicht dat menselijke beoordeling en controle over wapensystemen nodig zijn, en legden de ethische en juridische risico’s bloot die gepaard gaan met toenemende autonomie. Maar een formeel akkoord blijft uit, ondanks het feit dat veel staten en maatschappelijke organisaties aandringen op onderhandelingen over een bindend internationaal verdrag.
De VN-Secretaris-Generaal en de ICRC-voorzitter vinden dat de tijd van vrijblijvend praten voorbij is. Ze roepen regeringen op om “politieke moed” te tonen en onderhandelingen te starten voor een juridisch bindend instrument met duidelijke verboden en beperkingen op autonome wapens. Als er geen actie wordt ondernomen, zo waarschuwen zij, kan dat leiden tot een toekomst waarin dader voor onrechtmatige doden steeds moeilijker ter verantwoording kunnen worden geroepen en de waarborgen van het internationaal humanitair recht verzwakken.
De gezamenlijke oproep kent een bijzonder belang toe aan de zevende toetsingsconferentie van het Verdrag inzake bepaalde conventionele wapens, gepland voor november. Beide leiders zien die bijeenkomst als een cruciale kans voor staten om formele verdragsonderhandelingen te beginnen. Nu autonomie wereldwijd steeds meer wordt geïntegreerd in militaire systemen, dringen de VN en het ICRC er bij regeringen op aan deze kans te grijpen en ervoor te zorgen dat innovatie onder betekenisvolle menselijke controle blijft. “Innovatie moet de mensheid dienen, niet in gevaar brengen,” zo besluit de verklaring.
Volgens het Bureau van de Verenigde Naties voor Ontwapeningszaken (UNODA) zijn autonome wapensystemen wapens die, eenmaal geactiveerd, cruciale functies zoals de identificatie, selectie en aanval op doelen kunnen uitvoeren zonder directe menselijke tussenkomst. Hoewel sommige van die systemen gebruikmaken van kunstmatige intelligentie, vereist autonomie niet noodzakelijk AI en kan het ook gaan over voorgeprogrammeerde regels en sensoren. De VN stelt dat technologieën met autonome functies al worden ontwikkeld en ingezet op gebieden zoals raketafweersystemen, bewakingssystemen en bepaalde typen zwerfmunitie.