Världen håller på att få ont om tid att sätta upp skyddsräcken för artificiell intelligens, varnade FN:s högkommissarie för mänskliga rättigheter Volker Türk på måndagen, då en ”hänsynslös kapplöpning” mellan företag och länder väcker oro för människors säkerhet och till och med mänsklighetens överlevnad.
Under sitt tal i Storbritannien vid ett AI– och människorättstoppmöte i Oxford på måndagen sade Türk att teknologin kan leverera fantastiska framsteg inom vetenskap, hälsa, utbildning – och till och med arbete med mänskliga rättigheter.
Men dess verktyg byggs och kontrolleras av ett fåtal utvalda, utan offentlig tillsyn, och utför redan sådant som dess skapare inte helt kan förutse eller hantera.
Undergräver offentlig debatt
Han varnade för att AI kunde undergräva jämlikhet, frihet, integritet och offentlig debatt på subtila sätt, ”och låta dystopin smyga sig in obemärkt”. Hela befolkningar skulle kunna stängas av från kommunikation, rent vatten, uppvärmning och finansiella tjänster ”med ett knapptryck”.
Han krävde brådskande åtgärder för att förhindra att maskiner bestämmer vem som lever och vem som dör, och påpekade att AI redan förändrar pågående krigsföringssituationer.
Han hänvisade också till studier som visar att studenter som förlitar sig på AI och tänker mindre självständigt, och frågade om världen är på väg mot en framtid där ingen kan förstå, ifrågasätta eller ens vägleda teknologin.
Under FN:s rättighetschefs tal vid toppmötet i Storbritannien, höll New York City Council – hem för den finansiella kärnan av den amerikanska ekonomin – också en sällsynt kommitté för att undersöka AI-risker för New York-bor.
Rådet överväger tio lagförslag för att reglera AI i landets största stad, med vittnesmål från Anthropic, OpenAI, Google och Meta.
Obligatoriska skyddsåtgärder
Türk efterlyste obligatoriskt skydd för mänskliga rättigheter och noggrannhet i hur AI utvecklas och används samt anpassas i takt med att teknologin utvecklas. Länder som har AI-företag eller har inflytande över deras leveranskedjor måste kräva att de agerar ansvarsfullt och håller dem ansvariga när de inte gör det, sade han.
Inte alla svar ligger inom befintlig lagstiftning och vissa områden kommer att behöva nya juridiska tillvägagångssätt, tillade han. Men att uppdatera regler om ansvar, cybersäkerhet och dataskydd kan erbjuda skydd under tiden.
Han uppmanade också till starkare samarbete kring säkerhet och oberoende övervakning inom branschen – ”inte i ord, utan i praktiken” – samt större inflytande för civilsamhället och de personer vars rättigheter påverkas.
”Vi har inte längre råd att vänta eller förlita oss på goodwill,” sade han.