Verden har snart ikke mer tid til å innføre sikkerhetsmekanismer for kunstig intelligens, advarte FNs høykommissær for menneskerettigheter Volker Türk mandag, ettersom et «nådeløst kappløp» mellom selskaper og land vekker bekymring for menneskelig sikkerhet og til og med menneskehetens overlevelse.
Under en tale på et toppmøte om kunstig intelligens og menneskerettigheter i Oxford mandag, sa Türk at teknologien kan føre til imponerende fremskritt innen vitenskap, helse, utdanning – og til og med menneskerettighetsarbeid.
Men verktøyene utvikles og kontrolleres av et utvalgt fåtall, uten offentlig tilsyn, og gjør allerede ting skaperne ikke fullt ut kan forutse eller styre.
Dystopiens snikende fremvekst
Han advarte om at KI kan undergrave likestilling, frihet, personvern og offentlig debatt på subtile måter, slik at «dystopien kan snike seg inn ubemerket». Hele befolkninger kan bli avskåret fra kommunikasjon, rent vann, oppvarming og finansielle tjenester «med et enkelt klikk».
Han etterlyste umiddelbare tiltak for å forhindre at maskiner bestemmer hvem som skal leve og hvem som skal dø, og påpekte at KI allerede endrer måten kriger føres på.
Han viste også til studier som viser at studenter som er avhengige av KI husker mindre og tenker mindre selvstendig, og spurte om verden er på vei mot en fremtid der ingen kan forstå, stille spørsmål ved eller til og med styre teknologien.
Mens FNs menneskerettighetssjef talte på toppmøtet i Storbritannia, avholdt byrådet i New York – som er hjemsted for det finansielle hjertet av den amerikanske økonomien – også et sjeldent plenumsmøte for å drøfte risikoene ved kunstig intelligens for innbyggerne i New York.
Byrådet behandler for tiden ti lovforslag om regulering av KI i USAs største by, med innspill fra Anthropic, OpenAI, Google og Meta.
Obligatoriske sikkerhetstiltak
Türk etterlyste obligatoriske menneskerettighetsgarantier og aktsomhetsplikt i utviklingen og bruken av KI, tilpasset etter hvert som teknologien utvikler seg. Land som huser KI-selskaper, eller har innflytelse over deres forsyningskjeder, må kreve at selskapene handler ansvarlig og stille dem til ansvar når de ikke gjør det, sa han.
Ikke alle svar ligger i gjeldende lovgivning, og på noen områder vil det være behov for nye juridiske tilnærminger, la han til. Men en oppdatering av regelverket om ansvar, cybersikkerhet og personvern kan gi beskyttelse i mellomtiden.
Han oppfordret også til sterkere samarbeid om sikkerhet og uavhengig overvåking i bransjen – «ikke i ord, men i praksis» – samt større innflytelse for sivilsamfunnet og de som får sine rettigheter berørt.
«Vi har ikke lenger råd til å vente eller stole på god vilje», sa han.