Frivillig självreglering hos företag som utvecklar avancerad artificiell intelligens (AI) är ”långt ifrån tillräckligt” för att hantera befintliga konsekvenser samt förhindra att avancerade autonoma AI-modeller kringgår mänskliga skyddsåtgärder, skrev FN:s människorättschef Volker Türk på måndagen.
”Den nuvarande kapplöpningen mot allt kraftfullare Artificiell Intelligens är ett steg mot större existentiella risker angående alla aspekter av våra liv,” skrev han i ett uttalande.
Högkommissionärens uttalande presenteras sex dagar efter att en tidigare forskare på Anthropic – företaget bakom chatboten Claude – avgick från sin tjänst samtidigt som han varnade för att ”de som bygger AI uppriktigt tror att det kan döda oss alla innan decenniets slut.”
Flera incidenter som inträffat nyligen, inklusive Jacob Coxons avgång samt tillkännagivanden från OpenAI och Anthropic om att deras modeller hade brutit sig ut ur testmiljöer, har intensifierat den globala debatten om i vilken utsträckning regeringar bör reglera teknologin.
Inget land kan klara sig ensam
Türk uppmanade länder som är värdländer för AI-företag i gränslandet att skärpa regleringen, bland annat genom att kräva att företag rapporterar allvarliga incidenter, verifierar AI-kapacitet och kräver ytterligare granskning angående mänskliga rättigheter.
Han uppmanade också medlemsstaterna att samarbeta via multilaterala institutioner för att bygga global konsensus angående AI-styrning och skydda mänskliga rättigheter i samband med AI-risker.
”Inget land kan styra denna teknik ensam,” skrev herr Türk. ”Inget företag ska kunna bestämma själv vilka risker världen måste acceptera. Ingen person ska tvingas avsäga sig sina mänskliga rättigheter i utbyte mot krav på teknologisk utveckling.”
’Vandra vid gränsen’
Anthropics VD Dario Amodei publicerade på lördagen en essä med titeln We Must Pace the Frontier, där han argumenterar för att företag ska fortsätta framstegen inom AI-utveckling samtidigt som de tar sig tid att säkerställa tillräckliga skyddsåtgärder för att förhindra att ”agentiska system” går sin väg.
Ledare inom OpenAI, Google och xAI uttryckte alla sitt samtycke till Amodeis förslag, som inkluderar krav på tredjepartsutvärdering av AI-modeller, ökad samordning mellan AI-företag och samarbete mellan regeringar.
Türk välkomnade särskilt Amodeis förslag och branschens självreglering i stort – men tillade att regeringar också måste agera i snabb takt för att reglera AI-teknologin.
Ingen ’kapplöpning mot botten’
”De få delstater som är värd för ledande AI-företag i gränslandet har en särskild skyldighet att kräva att dessa företag agerar ansvarsfullt och hålla dem ansvariga om de inte gör det,” skrev högkommissarien.
Genom att identifiera företag i Kina och USA som befinner sig ”i framkanten” när det gäller AI insåg Türk behovet av internationella standarder och samordning för att minska incitamenten för en AI-kapprustning mellan de två länderna.
”De behöver anpassa sina tillvägagångssätt så att konkurrensen mellan jurisdiktioner inte uppmuntrar till en kapplöpning mot botten,” skrev herr Türk.
Riskerna och styrningen av AI bör främst bedömas utifrån dess inverkan på mänskliga rättigheter, enligt herr Türk. Utöver att säkerställa att AI inte förstör mänskligheten, påpekade han att AI-säkerhet innebär att aktivt skydda människor, samhällen, institutioner och framtida generationer.
Människor över kapital
Türk avvisade branschens argument att AI-säkerhetsskydd bromsar innovationen och hävdade att ingen borde tvingas ge upp sina mänskliga rättigheter för att möjliggöra framsteg.
Som det är nu, sade han, hotas rätten till liv, mat, integritet, hälsa och säkerhet av okontrollerad AI-utveckling.