FN:s generalsekreterare och ordföranden för Röda Korsets internationella kommitté (ICRC) har utfärdat en brådskande vädjan till regeringar att anta juridiskt bindande internationella regler för autonoma vapensystem, och varnar för att världen närmar sig en ”moralisk röd linje” där maskiner självständigt kan välja och rikta in sig på människor.
I ett gemensamt uttalande som presenterades i Genève betonade de två ledarna att oron kring sådana vapen har ökat avsevärt sedan deras senaste uppmaning för tre år sedan.
Enligt uttalandet har snabba framsteg inom militär teknik överträffat befintliga juridiska och regulatoriska ramverk. FN och ICRC varnade för att ökande nivåer av autonomi i vapensystem redan används i konfliktsituationer, vilket ökar risken för skada på civila och civil infrastruktur. De påpekade att den växande klyftan mellan teknologisk kapacitet och internationell tillsyn hotar att undergräva det skydd som garanteras i internationell humanitär rätt.
En framväxande verklighet
I detta sammanhang betonade de två organisationerna att autonoma vapensystem inte längre är ett framtidsperspektiv utan en framväxande verklighet. De noterade att forskare och ingenjörer som arbetar med teknologin själva har krävt restriktioner, och lyft fram rädslan för minskad mänsklig kontroll i beslut som involverar användning av dödligt våld.
Under de senaste åren har FN intensifierat sina ansträngningar för att ta itu med frågan. Medlemsstaterna har diskuterat autonoma vapen vid FN:s generalförsamling och inom gruppen av statliga experter som inrättats enligt konventionen om vissa konventionella vapen (CCW). Dessa diskussioner har bidragit till att bygga en gemensam förståelse för graden av mänskligt omdöme och kontroll som krävs över vapensystem samt de etiska och juridiska risker som ökar autonomin medför. Framstegen mot ett formellt avtal har dock varit långsamma, med många stater och civilsamhällesorganisationer som uppmanar till förhandlingar om ett bindande internationellt avtal.
Politiskt mod
Generalsekreteraren och ICRC:s ordförande hävdade att tiden för enbart diskussion är förbi. De uppmanade regeringar att visa ”politiskt mod” och inleda förhandlingar om ett juridiskt bindande instrument med tydliga förbud och begränsningar av autonoma vapen. Underlåtenhet att agera, varnade de, kan leda till en framtid där ansvarstagande för olagliga dödande blir allt svårare att fastställa och skydden av internationell humanitär rätt försvagas.
Den gemensamma appellen lägger särskild vikt vid den sjunde granskningskonferensen för konventionen om vissa konventionella vapen, planerad till november, och beskriver den som en avgörande möjlighet för stater att inleda formella förhandlingar om avtal. Med autonomin alltmer integrerad i militära system världen över uppmanade FN och ICRC regeringar att ta tillfället i akt och säkerställa att innovation förblir under meningsfull mänsklig kontroll.
– Innovation måste tjäna mänskligheten, inte äventyra den, avslutas uttalandet.
Vad är autonoma vapensystem?
Enligt FN:s kontor för nedrustningsfrågor (UNODA) är autonoma vapensystem vapen som, när de väl aktiverats, kan utföra viktiga funktioner som att identifiera, välja och angripa mål utan direkt mänsklig inblandning. Även om vissa av dessa system bygger på artificiell intelligens kräver autonomi inte nödvändigtvis AI och kan också baseras på förprogrammerade regler och sensorer. FN påpekar att teknologi med autonoma funktioner redan utvecklas och används inom områden som missilförsvarssystem, vaktsystem och vissa typer av ammunition.