Artificiell intelligens (AI) utvecklas i snabb takt och väcker frågor kring hur samhällen och regeringar kan dra nytta av dess fördelar samtidigt som de hanterar risker som ofta sträcker sig bortom nationsgränser. Dessa farhågor intensifierades efter att en tidigare forskare vid AI-företaget Anthropic den 8 september varnade för att AI kunde utgöra ett existentiellt hot mot mänskligheten.
För FN är det bästa sättet att hantera AI:s globala risker att samla länder för att anta gemensamma principer och åtaganden för AI-styrning.
”Nationell handling är nödvändig, men global samordning är oumbärlig,” sade FN:s generalsekreterare António Guterres.
FN har arbetat i flera år för att erbjuda ett forum där länder kan utveckla en gemensam förståelse för AI-teknologier och diskutera hur de kan samarbeta – och skapa en regleringsram – i frågor som säkerhet, mänskliga rättigheter och ojämlikheter i tillgång.
Regelbaserad utveckling
FN:s nuvarande arbete med AI-styrning härrör från Global Digital Compact, som antogs av medlemsstaterna 2024 som en del av FN:s Pakt för framtiden, exakt för två år sedan.
Handlingen efterlyste internationellt samarbete kring AI och föreslog två nya mekanismer: en oberoende vetenskaplig panel för att bedöma AI:s risker och möjligheter, samt en årlig global dialog där regeringar och andra intressenter kunde samordna tillvägagångssätt för AI-styrning.
I augusti 2025 etablerade FN:s generalförsamling formellt båda.
Den oberoende internationella vetenskapliga panelen för AI syftar till att ge regeringar en oberoende bedömning av vad som är känt – och vad som inte är känt – om den snabbt utvecklande teknologin.
Global Dialogue on AI Governance samlar samtidigt regeringar och andra intressenter för att diskutera internationellt samarbete, dela erfarenheter och arbeta för större kompatibilitet mellan olika metoder för AI-styrning.
Generalförsamlingen utformade de två institutionerna för att komplettera varandra: den vetenskapliga panelen tillhandahåller bevisen, och länderna beslutar vid den globala dialogen vad de ska göra som svar.
Desinformation och diskriminering
Den vetenskapliga panelens första preliminära rapport, som släpptes den 1 juli, drog slutsatsen att AI-kapaciteter utvecklas snabbt – särskilt inom områden som kodning och vetenskap – vilket skapar betydande möjligheter.
Den identifierade också risker som desinformation, diskriminering, integritetskränkningar, cyberattacker och så kallad ”superintelligens” som kan bli svåra att kontrollera.
”Vi behöver en gemensam förståelse för hur vi kan främja en säker, säker och ansvarsfull utveckling av AI – samtidigt som vi identifierar när allt kraftfullare system kan behöva starkare skyddsåtgärder eller ytterligare åtgärder för att hantera potentiella risker,” sade Guterres i sina anföranden i samband med generalförsamlingens presskonferens New York.
Säker, trygg och anvarsfull
FN:s arbete kommer samtidigt som diskussionerna kring hur AI bör regleras till frågor om vilka skyddsåtgärder som bör införas.
På onsdagen uppmanade Guterres till internationellt samarbete för att säkerställa att AI-utvecklingen förblir säker, trygg och ansvarsfull. Han tillade att frivilliga insatser för att bromsa AI-utvecklingen inte kommer att vara tillräckliga om de är isolerade, overifierbara eller ojämnt använda.
När han tillfrågades om hur FN skulle kunna sammankalla ett toppmöte som en del av en process som leder till effektiv reglering för mänskligheten, sade han att det inte kunde göras nästa vecka – men att det borde ske snart, med ”alla ombord” från offentliga, privata, vetenskapliga och civilsamhällessektorer.
”Om vi anser att AI-utvecklingen ska sakta ner när riskerna blir för stora, behöver vi mer än goda intentioner,” sade han.
Generalsekreteraren har efterlyst ett AI-säkerhetslöfte när det gäller barn samt en global fond for AI, som ska stödja utvecklingsländer i att bygga AI-infrastruktur och kapacitet. Han betonade också behovet av skyddstermer som gör AI ”säker, transparent, ansvarstagande, med människovärdighet i centrum.”
Medan nationella och regionala regeringar fattar egna beslut om AI-reglering, kommer FN:s roll att vara att föra samman dessa regeringar, tillhandahålla en vetenskaplig grund för diskussioner och identifiera områden för internationellt samarbete.
AI vid UNGA
Vissa diplomatiska källor som citeras i nyhetsrapporter spekulerar i att säkerhetsrådet kommer att diskutera artificiell intelligens under högnivåveckan.
Vid FN:s högkvarter, vid sidan av den allmänna debatten – där AI-frågor utan tvekan kommer att vara aktuella vid podiet – kommer FN:s SDG Media Zone att hålla ett evenemang den 21 september, och serien AI och mänsklig utveckling kommer att avslutas med en diskussion den 23 september. Båda evenemangen kommer att fokusera på relationen mellan AI och mänsklig handlingskraft.
Guterres betonade under sin presskonferens på onsdagen att AI kommer att vara ”ett stort ämne” i hans diskussioner med världsledare nästa vecka.
Genom att jämföra AI-utvecklingen med kapprustningen under kalla kriget mellan USA och Sovjetunionen, uppmanade generalsekreteraren till samarbete mellan länder i framkant av AI – inklusive USA och Kina – för att bromsa AI-utvecklingen medan riskerna fortsätter att bedömas.
”De länder som har högst kapacitet inom AI:s gränser – jag tycker att de bör etablera kontaktmekanismer, ha informationsutbyte och (skapa) några gemensamma skyddsräcken för att undvika en kapplöpning mot botten som en dag kan leda till en gigantisk katastrof på global nivå,” sade Guterres.
Med de vetenskapliga och diplomatiska mekanismerna på plats kommer FN att fortsätta arbeta för att omvandla detta samarbete till konkreta åtgärder i takt med att AI blir allt kraftfullare.