Kunstig intelligens (KI) brukes allerede mye på slagmarken, og den menneskelige dømmekraftens rolle i militære operasjoner er i ferd med å avta raskt, har lederen for FNs uavhengige forskningsinstitutt for nedrustning advart.
Under en pressekonferanse ved FNs hovedkvarter i New York stilte UNIDIR-direktør Robin Geiss et tydelig spørsmål til journalister: «Skal vi la maskiner ta sikte på og drepe mennesker?», og han advarte om at kunstig intelligens i økende grad er «på vei mot å presse ut menneskelige beslutninger» i denne sektoren.
FNs generalsekretær har gjentatte ganger oppfordret berørte parter til å sørge for at vi ikke krysser denne «moralske røde linjen».
Kaptein og kommandør
KI får stadig flere ansvarsområder innen militære anliggender, fra etterretningsanalyse og målidentifikasjon til droneoperasjoner og orkestrering av cyberangrep.
Geiss understreket at dette, og det er avgjørende, skjer på bekostning av menneskelig skjønn, også på det kjernefysiske området.
Denne utviklingen øker tempoet i stridsoperasjonene dramatisk, forkorter tiden mellom identifisering og angrep på mål, og gjør det mulig for styrkene å engasjere et hittil usett antall mål hver dag.
Samtidig er mange av disse KI-systemene, som stadig utvikler seg, uversiktlige, og UNIDIR-sjefen advarte om at de øker risikoen for feil, feilberegninger og dermed utilsiktet eskalering.
Etter hvert som KI-verktøyene blir enklere å bruke, vil det også bli lettere for ikke-statlige aktører å gjennomføre stadig mer sofistikerte militære operasjoner, sa han.
Geopolitisk samstemning
Geiss erkjente at geopolitisk konkurranse og spenninger utgjør «alvorlige hindringer» for reguleringen av KI-bruk i militærsektoren.
Likevel understreket han også at bekymringene for risikoene ved KI i stadig større grad deles – uavhengig av politisk ståsted – også blant de store verdensmaktene.
I september foreslo for eksempel USA en «varslingsmekanisme» for KI sammen med Kina, slik at de to landene i verden som bruker mest på forsvar, kan varsle hverandre om hendelser knyttet til kunstig intelligens som kan true nasjonal sikkerhet.
FNs generalsekretærs gjentatte oppfordringer om strengere regulering av militær KI og en juridisk bindende traktat om dødelige autonome våpensystemer «får også i stadig større grad gjennomslag i det internasjonale samfunnet», sa UNIDIR-direktøren.
En multilateral respons
UNIDIR arbeider aktivt for å legge grunnlaget for det multilaterale samarbeidet på dette området. På torsdag vil UNIDIR kompetansesenter for kunstig intelligens, fred og sikkerhet lansere et nytt flerpartsforum om KI innen internasjonal fred og sikkerhet samt på det militære området – det første og hittil eneste forumet av sitt slag i FN-systemet, sa Geiss.
Forumet vil fokusere på tre områder:
- Utvikling av et rammeverk for ansvarlig atferd i bransjen, med praktiske, frivillige retningslinjer som bedrifter kan følge i design- og utviklingsfasen av militære KI-verktøy.
- Å utvikle et «KI-sikkerhetsleksikon» for å klargjøre nøkkelbegreper som autonomi, sikkerhet eller trygghet, som for tiden brukes på svært forskjellige måter av ulike interessenter – noe som skaper tvetydighet som hindrer tillit og samarbeid.
- Å håndtere risikoen for misbruk av KI av ikke-statlige væpnede grupper til støtte for operativ planlegging, gjennomføring og logistikk.