Vandaag staat Articificële intelligentie (AI) op de agenda van de Veiligheidsraad die plaatsvindt tijdens de week op hoog niveau van de VN-Algemene Vergadering. AI is een rode draad in de toespraken van wereldlijders tijdens het algemene debat en in de gesprekken van de VN-Secretaris-Generaal met wereldleiders.
AI ontwikkelt zich razendsnel. Dat roept vragen op over hoe samenlevingen en regeringen de voordelen kunnen benutten en tegelijkertijd de – vaak grensoverschrijdende – risico’s kunnen beheersen.
Die bezorgdheid klonk nog luider toen een voormalig onderzoeker bij het AI-bedrijf Anthropic op 8 september waarschuwde dat AI een existentiële bedreiging voor de mensheid kan vormen.
De VN wil die internationale risico’s van AI aanpakken door landen bijeen te brengen om gezamenlijke afspraken over AI-governance te maken.
Coördinatie is ‘onmisbaar’
“Nationaal optreden is essentieel, maar internationale coördinatie is onmisbaar“, zei VN-Secretaris-Generaal António Guterres vorige week.
De VN heeft enkele jaren geleden al een forum gecreëerd waar landen samen AI-technologieën kunnen bekijken en bespreken hoe ze kunnen samenwerken om een regelgeving te bouwen die veiligheid, mensenrechten en gelijke toegang moet garanderen.
Gereguleerde AI-ontwikkeling
Het huidige werk van de VN op het gebied van AI-governance vloeit voort uit het Global Digital Compact, dat precies twee jaar geleden, in 2024, door de lidstaten werd aangenomen als onderdeel van het Pact voor de Toekomst van de VN.
Het pact riep op tot internationale samenwerking op het gebied van AI en stelde twee nieuwe mechanismen voor: een onafhankelijk wetenschappelijk panel om de risico’s en kansen van AI te evalueren, en een jaarlijkse internationale dialoog waarin regeringen en andere belanghebbenden hun aanpak van AI-governance kunnen afstemmen.
In augustus 2025 maakte de Algemene Vergadering van de VN beide mechanismen officieel.
Het Onafhankelijke Internationale Wetenschappelijke Panel voor AI wil regeringen een onafhankelijke evaluatie geven van wat er wel en niet bekend is over AI.
De jaarlijkse dialoog ‘Global Dialogue on AI Governance’ brengt regeringen en andere belanghebbenden samen om internationale samenwerking te bespreken, ervaringen uit te wisselen en te werken aan een grotere onderlinge afstemming tussen verschillende benaderingen van AI-governance.
De Algemene Vergadering heeft de twee instellingen zo opgezet dat ze elkaar aanvullen: het Wetenschappelijk Panel levert de feiten, en landen beslissen tijdens de ‘Global Dialogue’ wat ze daarmee gaan doen.
Het eerste voorlopige rapport van het Wetenschappelijk Panel (1 juli 2026) stelde dat de mogelijkheden van AI zich in hoog tempo ontwikkelen – vooral op het gebied van redeneren, programmeren en wetenschap – met aanzienlijke kansen.
Maar ook risico’s kwamen aan bod, zoals desinformatie, discriminatie, schendingen van de privacy, cyberaanvallen en de zogenaamde moeilijk te beheersen “superintelligentie”.
“We hebben een gemeenschappelijke basis nodig voor een veilige en verantwoorde ontwikkeling van AI – en tegelijkertijd moeten we vaststellen dat steeds krachtigere systemen wellicht strengere waarborgen of aanvullende maatregelen vereisen om potentiële risico’s te beheersen“, vertelde de VN-baas Guterres aan de wereldpers in New York voor de start van de VN-Algemene Vergadering.
Op 21 september 2026 waarschuwde het Onafhankelijke Internationale Wetenschappelijke Panel voor AI voor de hack van het onlineplatform HuggingFace uitgevoerd door ‘AI-agenten’, softwareprogramma’s die zelfstandig en namens een gebruiker taken kunnen uitvoeren, tijdens een test van OpenAI, het bedrijf achter ChatGPT.
In dat eerste thematische rapport stelde het panel vast dat het beveiligingslek het gevolg was van een samenloop van belangrijke risicofactoren. Dit voedt de vrees dat mensen op een dag niet langer in staat zullen zijn om AI aan te sturen, te beperken of te stoppen.
Werken aan AI-vangrails
Het werk van de VN komt op een moment dat de discussies verschuiven van de vraag of AI gereguleerd moet worden, naar vragen over welke vangrails nodig zijn.
Vorige week riep Guterres op tot internationale samenwerking om voor een veilige, betrouwbare en verantwoorde ontwikkeling van AI. Hij zei ook dat vrijwillige inspanningen om de ontwikkeling van AI te vertragen niet genoeg zullen zijn, als ze geïsoleerd, ongecontroleerd of ongelijkmatig zijn.
Hij zei dat de VN een top over de effectieve regelgeving ten behoeve van de mensheid kan organiseren, dat het snel moet plaatsvinden, en “iedereen aan boord” moet zijn – uit de openbare, privé, wetenschappelijke en maatschappelijke sectoren.
“Als we vinden dat de ontwikkeling van AI moet worden afgeremd wanneer de risico’s te groot worden, hebben we meer nodig dan goede bedoelingen,” zei hij.
De Secretaris-Generaal riep op tot een ‘AI Child Safety Pledge’ (belofte voor de veiligheid van kinderen met betrekking tot AI) en een ‘Global Fund for AI’ (wereldwijd fonds voor AI), dat ontwikkelingslanden zou ondersteunen bij de creatie van AI-infrastructuur en -capaciteit.
Hij benadrukte ook dat waarborgen nodig zijn die AI “veilig, transparant en verantwoordelijk maken, met de menselijke waardigheid als centraal gegeven.”
Nationale en regionale regeringen zullen hun eigen beslissingen nemen over AI-regelgeving, de rol van de VN is om die regeringen samen te brengen, een wetenschappelijke basis voor discussies te bieden en sectoren voor internationale samenwerking aan te geven.
AI tijdens de VN-Algemene Vergadering
Vandaag staat AI op de agenda van de Veiligheidsraad die plaatsvindt tijdens de week op hoog niveau.
Daarnaast zal AI op de VN-hoofdzetel tijdens de speeches van het algemene debat ongetwijfeld een prominente plaats innemen, net zoals in de gesprekken van de VN-Secretaris-Generaal met wereldleiders.
De SDG Media Zone organiseerde op 21 september een evenement, en de reeks ‘AI and Human Development’ zal op 23 september worden afgesloten met een debat. Beide evenementen gaan over de relatie tussen AI en menselijk handelen.
De VN-Secretaris-Generaal vergeleek de ontwikkeling van AI met de wapenwedloop tussen de VS en de Sovjet-Unie tijdens de Koude Oorlog en riep op tot samenwerking tussen landen die vooroplopen op het gebied van AI – waaronder de VS en China – om de ontwikkeling van AI te vertragen terwijl de risico’s nog verder worden geëvalueerd.
“De landen die het verst staan op het gebied van AI – ik vind dat zij contactmechanismen moeten opzetten, informatie moeten uitwisselen en een aantal gemeenschappelijke waarborgen moeten instellen om een race naar de bodem te voorkomen die op een dag zou kunnen leiden tot een gigantische ramp op wereldvlak”, benadrukte Guterres.
Met de huidige wetenschappelijke en diplomatieke mechanismen, wil de VN zich blijven inzetten om die samenwerking om te zetten in concrete maatregelen, nu AI steeds krachtiger wordt.