Frivillig selvregulering fra selskaper som utvikler avansert kunstig intelligens (KI) er «langt fra tilstrekkelig» for å håndtere eksisterende skader og hindre at avanserte autonome KI-modeller omgår menneskelige sikkerhetstiltak, skrev FNs menneskerettighetssjef Volker Türk mandag.
«Det nåværende kappløpet mot stadig kraftigere KI utgjør et skifte som medfører større eksistensielle risikoer for alle aspekter av livene våre,» skrev han i et åpent brev.
Høykommissærens budskap kommer seks dager etter at en tidligere forsker ved Anthropic – selskapet bak chatboten Claude – trakk seg fra sin stilling, samtidig som han advarte om at «de som utvikler KI, oppriktig tror at den kan drepe oss alle innen utgangen av dette tiåret.»
Flere nylige hendelser, blant annet Jacob Coxons avgang og kunngjøringene fra OpenAI og Anthropic om at modellene deres hadde brutt seg ut av testmiljøene, har forsterket den globale debatten om i hvilken grad myndighetene bør regulere teknologien.
Ingen land kan klare seg alene
Türk oppfordret land som er vertskap for banebrytende KI-selskaper til å skjerpe regelverket, blant annet ved å kreve at selskapene rapporterer om alvorlige hendelser, verifiserer KI-kapasiteter og pålegger dem å utføre ‘due diligence-vurderinger’ knyttet til menneskerettigheter.
Han oppfordret også medlemsstatene til å samarbeide gjennom multilaterale institusjoner for å skape global enighet om KI-styring og beskytte menneskerettighetene i møte med risikoer knyttet til KI.
«Ingen land kan styre denne teknologien alene,» skrev Türk. «Ingen bedrift bør kunne bestemme på egen hånd hvilke risikoer verden må akseptere. Ingen skal måtte gi avkall på sine menneskerettigheter i bytte mot påstander om teknologisk fremgang.»
‘I takt med frontteknologien’
Dario Amodei, administrerende direktør i Anthropic, publiserte lørdag et essay med tittelen «We Must Pace the Frontier», der han argumenterer for at selskaper bør fortsette fremgangen innen KI-utvikling, samtidig som de tar seg den tiden som trengs for å sikre tilstrekkelige sikkerhetstiltak for å hindre at «autonome-systemer» går amok.
Ledere hos OpenAI, Google og xAI uttrykte alle støtte til Amodeis forslag, som blant annet inneholder krav om tredjepartsevaluering av KI-modeller, økt koordinering mellom KI-selskaper og samarbeid mellom myndigheter.
Türk ga uttrykk for sin støtte til Amodeis forslag spesielt og bransjens selvregulering generelt – men la til at myndighetene også må handle raskt for å regulere KI-teknologien.
Ingen ‘kappløp mot bunnen’
«De få statene som er vertsland for ledende selskaper innen banebrytende KI, har en særlig forpliktelse til å kreve at disse selskapene opptrer ansvarlig og holder dem ansvarlige hvis de ikke gjør det,» skrev høykommissæren.
Türk pekte ut selskaper i Kina og USA som «ledende innen» banebrytende KI, og erkjente behovet for internasjonale standarder og samordning for å redusere insentivene til et KI-våpenkappløp mellom de to landene.
Risikoene og styringen av KI bør primært vurderes ut fra dens innvirkning på menneskerettighetene, ifølge Türk.
I tillegg til å sikre at kunstig intelligens ikke ødelegger menneskeheten, sa menneskerettighetssjefen at sikkerhet knyttet til KI innebærer å aktivt beskytte mennesker, lokalsamfunn, institusjoner og fremtidige generasjoner.
Mennesker over kapital
Türk avviste bransjens påstand om at sikkerhetstiltak for kunstig intelligens bremser innovasjonen, og hevdet at ingen burde tvinges til å gi opp sine menneskerettigheter for å muliggjøre fremskritt.
Han sa at rettighetene til liv, mat, personvern, helse og sikkerhet i dag alle er truet av ukontrollert utvikling av kunstig intelligens.
Les mer om KI her.