Sjálfseftirlit fyrirtækja sem þróa gervigreind (AI) er „hvergi nærri nægjanlegt“ til að takast á við núverandi skaða skrifar Volker Türk, mannréttindastjóri Sameinuðu þjóðanna í opnu bréfi sem birtist á mánudag. Hann segir það ekki nóg til að koma í veg fyrir að háþróuð sjálfstæð gervigreindarlíkön fari fram hjá öryggisráðstöfunum manna.

„Núverandi kapphlaup í átt að sífellt öflugri gervigreind er stórt skref í átt að meiri tilvistarógn fyrir alla þætti lífs okkar,“ skrifaði hann í opna bréfinu.

Skilaboð mannréttindastjórans koma sex dögum eftir að fyrrverandi rannsakandi hjá Anthropic – fyrirtækinu á bak við Claude gervigreindina– sagði starfi sínu lausu. Hann varaði við því að „fólkið sem byggir gervigreind trúi því í einlægni að hún gæti drepið okkur öll fyrir lok áratugarins.“

Nokkur nýleg atvik, þar á með

al uppsögn Jacob Coxon og tilkynningar frá OpenAI og Anthropic um að líkön þeirra hefðu brotist út úr prófunarumhverfi, hafa magnað alþjóðlega umræðu um að hve miklu leyti stjórnvöld ættu að setja reglur um tæknina.

Ekkert land getur gert þetta eitt

Türk hvatti lönd sem hýsa gervigreindarfyrirtæki til að auka reglugerðir. Krefjast bæri þess að fyrirtæki tilkynni alvarleg atvik, sannreyni getu gervigreindar og geri kröfu um áreiðanleikakönnun á mannréttindum.

Hann hvatti einnig aðildarríki til að vinna saman í gegnum fjölþjóðlegar stofnanir til að byggja upp alþjóðlega samstöðu um stjórnun gervigreindar. Vernda þyrfti mannréttindi í ljósi áhættu sem fylgir gervigreind.

„Ekkert land getur stjórnað þessari tækni eitt,“ skrifaði Türk. „Ekkert fyrirtæki ætti að geta ákveðið eitt og sér hvaða áhættu heimurinn verður að sætta sig við. Enginn einstaklingur ætti að þurfa að afsala sér mannréttindum sínum í skiptum fyrir fullyrðingar um tækniframfarir.“

„Hægjum á framþróuninni“

Dario Amodei, forstjóri Anthropic, birti á laugardag ritgerð sem bar yfirskriftina We Must Pace the Frontier (Við verðum að hægja á framþróuninni). Þar hvatti hann fyrirtæki til að halda áfram þróun gervigreindar en taka sér nauðsynlegan tíma til að tryggja nægjanlegar öryggisráðstafanir til að koma í veg fyrir að „sjálfstæð kerfi“ fari sínu fram.

Leiðtogar hjá OpenAI, Google og xAI lýstu allir yfir stuðningi við tillögu Amodei. Hún snýst um mat þriðja aðila á gervigreindarlíkönum, aukið samstarf milli gervigreindarfyrirtækja og samvinnu milli ríkisstjórna.

Türk fagnaði sérstaklega tillögu Amodei og sjálfseftirliti iðnaðarins almennt. Hann bætti við að stjórnvöld yrðu einnig að bregðast brýnt við til að setja reglur um gervigreindartækni.

Ekkert „kapphlaup niður á við“

„Þau fáu ríki sem hýsa leiðandi framsækin gervigreindarfyrirtæki hafa sérstaka skyldu til að krefjast þess að þau fyrirtæki starfi á ábyrgan hátt og draga þau til ábyrgðar ef þau gera það ekki,“ skrifaði mannréttindastjórinn.

Türk benti á að fyrirtæki í Kína og Bandaríkjunum væru „í fararbroddi“ í framsækinni gervigreind. Hann viðurkenndi þörfina fyrir alþjóðlega staðla og samræmingu til að draga úr hvata til gervigreindar-vígbúnaðarkapphlaups milli landanna tveggja.

„Þau þurfa að samræma nálgun sína svo að samkeppni milli lögsagnarumdæma hvetji ekki til kapphlaups niður á við,“ skrifaði Türk.

Áhætta og stjórnun gervigreindar ætti fyrst og fremst að vera metin út frá áhrifum hennar á mannréttindi, að sögn Türk.

Fyrir utan að tryggja að gervigreind eyðileggi ekki mannkynið, sagði mannréttindastjórinn að öryggi gervigreindar þýddi að vernda fólk, samfélög, stofnanir og komandi kynslóðir með virkum hætti.

Fólk fram yfir gróða

Türk hafnaði rökum iðnaðarins um að öryggisráðstafanir gervigreindar hægðu á nýsköpun. Hann hélt því fram að enginn ætti að vera neyddur til að gefa upp mannréttindi sín til að gera framfarir mögulegar.

Eins og staðan er núna sagði hann að rétturinn til lífs, fæðu, friðhelgi einkalífs, heilsu og öryggis væri allur í hættu vegna stjórnlausrar þróunar gervigreindar.

Sjá einnig hér.