Kunstig intelligens (KI) utvikler seg raskt, noe som reiser spørsmål om hvordan samfunn og myndigheter kan utnytte fordelene samtidig som de håndterer risikoer som ofte strekker seg utover landegrensene. Disse bekymringene ble forsterket etter at en tidligere forsker ved KI-selskapet Anthropic den 8. september advarte om at KI kunne utgjøre en eksistensiell trussel mot menneskeheten.
For FN er den beste måten å håndtere de globale risikoene ved KI på å samle landene for å vedta felles prinsipper og forpliktelser for KI-styring.
«Nasjonale tiltak er essensielle, men global koordinering er uunnværlig», sa FNs generalsekretær António Guterres onsdag.
FN har i flere år arbeidet for å skape et forum hvor land kan utvikle en felles forståelse av KI-teknologier og diskutere hvordan de kan samarbeide – og etablere rammeverk – rundt spørsmål som sikkerhet, menneskerettigheter og ulikheter i tilgang.
Regelbasert utvikling
FNs nåværende arbeid med regulering av KI stammer fra «Global Digital Compact», som ble vedtatt av medlemslandene for nøyaktig to år siden i 2024, som en del av FNs Pakt for fremtiden.
Avtalen oppfordret til internasjonalt samarbeid om kunstig intelligens og foreslo to nye mekanismer: et uavhengig vitenskapelig panel som skal vurdere risikoer og muligheter knyttet til KI, og en årlig global dialog der regjeringer og andre interessenter kan koordinere tilnærminger og regulering av KI-styring.
I august 2025 etablerte FNs generalforsamling – UNGA, som vi kaller den for kort – begge disse organene formelt.
Det uavhengige internasjonale vitenskapelige panelet for kunstig intelligens har som mål å gi myndigheter en uavhengig vurdering av hva man vet – og hva man ikke vet – om denne.
Den globale dialogen om styring av kunstig intelligens samler derimot regjeringer og andre interessenter for å diskutere internasjonalt samarbeid, dele erfaringer og arbeide for større samsvar mellom ulike tilnærminger til styring av kunstig intelligens.
Generalforsamlingen utformet de to institusjonene slik at de skal utfylle hverandre: det vitenskapelige panelet legger frem fakta, og landene bestemmer på den globale dialogen hva de skal gjøre som svar på dette
Desinformasjon og diskriminering
Det vitenskapelige panelets første foreløpige rapport, som ble offentliggjort 1. juli, konkluderte med at KI-teknologien utvikler seg raskt – særlig innen områder som resonnement, koding og vitenskap – noe som skaper betydelige muligheter.
Den identifiserte også risikoer som feilinformasjon, diskriminering, brudd på personvernet, cyberangrep og såkalt «superintelligens» som kan bli vanskelig å kontrollere.
«Vi trenger en felles forståelse av hvordan vi kan fremme en trygg, sikker og ansvarlig utvikling av KI – samtidig som vi identifiserer når stadig kraftigere systemer kan kreve sterkere sikkerhetstiltak eller ytterligere tiltak for å håndtere potensielle risikoer», sa Guterres i sin tale til verdenspressen i New York før FNs generalforsamling.
Sikker, trygg og ansvarsfull
FNs arbeid kommer i en tid hvor diskusjonene har gått fra spørsmålet om KI bør reguleres, til spørsmål om hvilke sikkerhetstiltak som bør iverksettes.
Onsdag oppfordret Guterres til internasjonalt samarbeid for å sikre at utviklinen av KI forblir trygg, sikker og ansvarlig. Han la til at frivillige tiltak for å bremse utviklingen av KI ikke vil være tilstrekkelig hvis de isoleres, ikke kan verifiseres eller blir anvendt ujevnt.
På spørsmål om hvordan FN kunne innkalle til toppmøte som en del av en prosess som skal føre til effektiv regulering til beste for menneskeheten, sa han at det ikke kunne gjøres neste uke – men at det burde skje snart, med «alle om bord» fra den offentlige, private, vitenskapelige og sivilsamfunnssektoren.
«Hvis vi mener at utviklingen av kunstig intelligens bør bremses når risikoen blir for stor, trenger vi mer enn bare gode intensjoner», sa han.
Generalsekretæren har etterlyst en KI-sikkerhetsforpliktelse når det gjelder barn og et globalt fond for KI, som skal støtte utviklingsland i å bygge opp infrastruktur og kapasitet innen KI. Han understreket også behovet for sikkerhetsmekanismer som gjør KI «trygg, transparent og ansvarlig, med menneskelig verdighet i sentrum.»
Mens nasjonale og regionale myndigheter tar egne sine beslutninger om regulering av KI, vil FNs rolle være å samle disse regjeringene, legge til rette for et vitenskapelig grunnlag for diskusjoner og identifisere områder for internasjonalt samarbeid.
KI under FNs generalforsamling
Noen diplomatiske kilder som er sitert i nyhetsrapporter spekulerer i at Sikkerhetsrådet vil diskutere kunstig intelligens i løpet av høynivåuken.
Ved FNs hovedkvarter, på i forbindelse med generaldebatten – der bekymringer knyttet til KI utvilsomt vil stå sentralt på talerstolen – arrangerte FNs SDG Media Zone et arrangement 21. september, og og serien «AI and Human Development» ble avsluttet med en diskusjon 23. september Begge arrangementene fokuserte på forholdet mellom KI og menneskelig handlekraft.
Guterres understreket under sin pressekonferanse onsdag at KI vil være «et sentralt tema» i hans samtaler med verdensledere denne uken.
Generalsekretæren sammenlignet utviklingen av kunstig intelligens med våpenkappløpet mellom USA og Sovjetunionen under den kalde krigen, og oppfordret landene som ligger i forkant av utviklingen innen kunstig intelligens – blant annet USA og Kina – til å samarbeide for å bremse utviklingen mens risikoene fortsatt vurderes.
«Landene som har størst kapasitet på frontlinjen innen kunstig intelligens– jeg mener de bør etablere kontaktmekanismer, utveksle informasjon og (opprette) noen felles rekkverk for å unngå et kappløp mot bunnen som en dag kan føre til en gigantisk katastrofe på globalt nivå», sa Guterres.
Med de vitenskapelige og diplomatiske mekanismene nå på plass, vil FN fortsette å arbeide for å omsette dette samarbeidet til konkret handling etter hvert som KI blir stadig mer kraftfull.