FNs generalsekretær og presidenten for den internasjonale Røde Kors-komité (ICRC) har fremsatt en fornyet og innstendig oppfordring til myndigheter om å vedta juridisk bindende internasjonale regler for autonome våpensystemer, og advarer om at verden nærmer seg en «moralsk rød linje» der maskiner selvstendig kan velge å angripe mennesker. I en felles uttalelse utgitt i Genève understreket de to lederne at bekymringene rundt slike våpen har blitt betydelig sterkere siden deres forrige oppfordring for tre år siden.
Ifølge uttalelsen har raske fremskritt innen militærteknologi overgått eksisterende juridiske og regulatoriske rammeverk. FN og ICRC advarte om at økende grad av autonomi i våpensystemer allerede tas i bruk i konfliktsituasjoner, noe som øker risikoen for skade på sivile og sivil infrastruktur. De argumenterte for at det økende gapet mellom teknologisk kapasitet og internasjonalt tilsyn truer med å undergrave beskyttelsen garantert under internasjonal humanitærrett.
Autonome våpensystemer allerede i bruk
Ifølge FNs kontor for nedrustningsspørsmål (UNODA) er autonome våpensystemer våpen som, når de blir aktivert, kan utføre kritiske funksjoner slik som å identifisere, velge og angripe mål uten direkte menneskelig innblanding. Selv om noen av systemene er avhengige av kunstig intelligens (KI), krever autonomi ikke nødvendigvis KI, og kan også være basert på forhåndsprogrammerte regler og sensorer. FN påpeker at teknologier med autonome funksjoner er allerede under utvikling og i bruk innen områder som missilforsvarssystemer, vaktsystemer og enkelte typer patruljerende ammunisjon.
I denne sammenhengen understreket de to organisasjonene at autonome våpensystemer ikke lenger er et fremtidsperspektiv, men en fremvoksende realitet. De bemerket at forskere og ingeniører som arbeider med teknologien selv har tatt til orde for restriksjoner, og fremhevet frykten for redusert menneskelig kontroll i beslutninger som involverer bruk av dødelig makt.
Menneskelig kontroll nødvendig
I de siste årene har FN intensivert innsatsen for å ta tak i problemet. Medlemslandene har diskutert autonome våpen i FNs generalforsamling og gruppen av regjeringseksperter opprettet under Konvensjonen om visse konvensjonelle våpen (CCW). Disse diskusjonene har bidratt til å bygge en felles forståelse av graden av menneskelig vurdering og kontroll som kreves over våpensystemer, samt de etiske og juridiske risikoene som økt autonomi medfører. Likevel har fremgangen mot en formell avtale forblitt langsom, og mange stater og sivilsamfunnsorganisasjoner oppfordrer til forhandlinger om en bindende internasjonal traktat.
Generalsekretæren og IRCR-presidenten argumenterte for at tiden for diskusjon alene har passert. De oppfordret myndigheter til å demonstrere «politisk mot» og innlede forhandlinger for et juridisk bindende instrument som inneholder klare forbud og restriksjoner på autonome våpen. De advarte om at manglende handling kan føre til en fremtid der ansvarliggjøring for ulovlige drap blir stadig vanskeligere å fastslå, og der beskyttelsen i internasjonal humanitærrett svekkes.
Den felles oppfordringen legger særlig vekt på den syvende tilsynskonferansen for Konvensjonen om visse konvensjonelle våpen, planlagt i november, og beskriver den som en kritisk mulighet for stater til å begynne formelle traktatforhandlinger. Ettersom autonomi i økende grad integreres i militære systemer verden over, oppfordret FN og ICRC myndigheter til å gripe øyeblikket og sikre at innovasjon forblir under meningsfylt menneskelig kontroll. «Innovasjon må tjene menneskeheten, ikke sette den i fare,» konkluderer uttalelsen.