Det er ingen tvil om at kunstig intelligens (KI) har et revolusjonerende potensial for å fremme menneskelig utvikling, men ukontrollert og ondsinnet bruk utgjør en alvorlig trussel mot global fred og sikkerhet. For å motvirke denne trusselen ber FN-sjefen verdens land om å blant annet forby våpen som styres av kunstig intelligens.
Generalsekretær António Guterres legger vekt på behovet for ansvarlig styring av kunstig intelligens i talen sin til FNs sikkerhetsråd. Han understreket at bruk av kunstig intelligens til cyberangrep, deepfakes, desinformasjon og hatprat kan få alvorlige konsekvenser.
I talen pekte Guterres på det alarmerende misbruket av sosiale medier, som en gang var ment å knytte mennesker sammen. Nå brukes det dessverre også som våpen for å undergrave valg og oppfordre til vold. I tillegg ble det uttrykt stor bekymring for samspillet mellom kunstig intelligens og atomvåpen, bioteknologi, nevroteknologi og robotteknologi.
Forstyrrende teknologi
Guterres understreket at det er nødvendig med en universell tilnærming til styring av kunstig intelligens for å håndtere de utfordringene som denne teknologien fører med seg. Han minnet også om FNs tidligere erfaringer med å håndtere disruptiv teknologi. Eksempler på dette er gjennom diskusjoner om etikk i forbindelse med kunstig intelligens og prinsipper for dødelige autonome våpensystemer.
Guterres roste AI for Good-toppmøtet, som samlet eksperter, privat sektor, FN-organer og myndigheter for å sikre at kunstig intelligens tjener det felles beste. Han erkjente imidlertid at det er et stort kompetansegap innen kunstig intelligens hos myndigheter og byråkratier. Det er derfor behov for økt oppmerksomhet på både nasjonalt og globalt nivå.
Guterres ønsket velkommen forslaget om å opprette en ny FN-enhet som skal ha som oppgave å støtte det kollektive arbeidet med kunstig intelligens. Dette vil ligne på allerede eksisterende enheter som Det internasjonale atomenergibyrået og FNs klimapanel. En slik enhet vil kunne samle ekspertise og legge til rette for samarbeid om KI-verktøy for å akselerere bærekraftig utvikling.
FN-forbud mot våpen styrt av kunstig intelligens.
I sitt engasjement for å fremme ansvarlig styring av kunstig intelligens kunngjorde Guterres planer om et høynivåmøte om kunstig intelligens. Målet med møte vil være å rapportere om globale styringsalternativer innen utgangen av året. Han har også til hensikt å utgi en policy brief, A New Agenda for Peace, med anbefalinger om KI-forvaltning til medlemslandene.
Han vil også ta til orde for innføre et juridisk bindende instrument som forbyr dødelige autonome våpensystemer som opererer uten menneskelig kontroll eller tilsyn. Målet er at et slikt forbud vil være på plass innen 2026.
Det historiske møtet om de potensielle truslene som kunstig intelligens utgjør for internasjonal fred og sikkerhet ble innkalt til av Storbritannia under det britiske formannskapet av sikkerhetsrådet. Møtet markerer et avgjørende øyeblikk for håndteringen av kunstig intelligens sin innvirkning på verdensscenen.
