Gervigreind (AI) þróast hratt og vekur upp spurningar um hvernig samfélög og stjórnvöld geta nýtt sér kosti hennar um leið og þau stjórna áhættum sem oft ná út fyrir landamæri.
Þessar áhyggjur jukust eftir að fyrrverandi rannsakandi hjá gervigreindarfyrirtækinu Anthropic varaði við því þann 8. september að gervigreind gæti skapað tilvistarógn fyrir mannkynið.
Að mati Sameinuðu þjóðanna er besta leiðin til að takast á við alþjóðlega áhættu gervigreindar að leiða lönd saman til að samþykkja sameiginlegar meginreglur og skuldbindingar um stjórnun gervigreindar.
Samhæfing er „bráðnauðsynleg“
„Aðgerðir á landsvísu eru nauðsynlegar, en alþjóðleg samhæfing er bráðnauðsynleg,“ sagði António Guterres, aðalframkvæmdastjóri Sameinuðu þjóðanna á blaðamannafundi.
Sameinuðu þjóðirnar hafa unnið í nokkur ár að því að skapa vettvang þar sem lönd geta þróað sameiginlegan skilning á gervigreindartækni og rætt hvernig þau geta unnið saman – og skapað regluverk – um mál eins og öryggi, mannréttindi og misræmi í aðgengi.
Þróun byggð á reglum
Núverandi vinna Sameinuðu þjóðanna að stjórnun gervigreindar á rætur sínar að rekja til alþjóðlega stafræna sáttmálans,sem aðildarríkin samþykktu árið 2024 sem hluta af framtíðarsáttmála SÞ, fyrir nákvæmlega tveimur árum.
Í sáttmálanum var kallað eftir alþjóðlegu samstarfi um gervigreind og lagðar til tvær nýjar aðferðir: óháð vísindanefnd til að meta áhættur og tækifæri gervigreindar og árlegt alþjóðlegt samráð þar sem stjórnvöld og aðrir hagsmunaaðilar gætu samræmt aðferðir við stjórnun gervigreindar.
Í ágúst 2025 stofnaði allsherjarþing Sameinuðu þjóðanna – UNGA eins og við köllum það í stuttu máli – formlega hvort tveggja.
Óháða alþjóðlega vísindanefndin um gervigreind miðar að því að veita stjórnvöldum óháð mat á því sem vitað er – og því sem ekki er vitað – um þessa ört vaxandi tækni.
Alþjóðlega samráðið um stjórnun gervigreindar leiðir á meðan saman stjórnvöld og aðra hagsmunaaðila til að ræða alþjóðlegt samstarf, deila reynslu og vinna að meiri samræmi milli mismunandi aðferða við stjórnun gervigreindar.
Allsherjarþingið hannaði þessar tvær stofnanir til að styðja hvor við aðra: vísindanefndin leggur fram gögnin og löndin ákveða á alþjóðlega samráðinu hvað skuli gera í kjölfarið.
Í fyrstu bráðabirgðaskýrslu vísindanefndarinnar, sem gefin var út 1. júlí, var komist að þeirri niðurstöðu að geta gervigreindar þróist hratt – sérstaklega á sviðum eins og rökhugsun, forritun og vísindum – og skapi þannig veruleg tækifæri.
Hún benti einnig á áhættur eins og rangar upplýsingar, mismunun, brot á friðhelgi einkalífs, netárásir og svokallaða „ofurgreind“ sem gæti orðið erfitt að stjórna.
„Við þurfum sameiginlegan skilning á því hvernig við getum stuðlað að öruggri, tryggri og ábyrgri þróun gervigreindar – um leið og við greinum hvenær sífellt öflugri kerfi kunna að krefjast strangari öryggisráðstafana eða viðbótaraðgerða til að stjórna hugsanlegri áhættu,“ sagði Guterres í ávarpi sínu til heimsfjölmiðla í New York fyrir allsherjarþingið.
Unnið að öryggisvörðum fyrir gervigreind
Vinna Sameinuðu þjóðanna fer fram á sama tíma og umræður færast frá því hvort setja eigi reglur um gervigreind yfir í spurningar um hvaða öryggisráðstafanir eigi að innleiða.
Guterres hefur kallað eftir alþjóðlegu samstarfi til að tryggja að þróun gervigreindar haldist örugg, trygg og ábyrg. Hann bætti við að sjálfviljugar tilraunir til að hægja á þróun gervigreindar muni ekki duga ef þær eru einangraðar, óstaðfestanlegar eða misjafnlega beittar.
Aðspurður um hvernig Sameinuðu þjóðirnar gætu boðað til leiðtogafundar sem hluta af ferli sem leiðir til skilvirkrar reglusetningar fyrir mannkynið, sagði hann að það væri ekki hægt að gera í næstu viku – en það ætti að gerast fljótlega, með „alla um borð“ úr opinbera geiranum, einkageiranum, vísindasamfélaginu og borgaralegu samfélagi.
„Ef við teljum að hægja eigi á þróun gervigreindar þegar áhættan verður of mikil, þurfum við meira en góðan ásetning,“ sagði hann.
Aðalframkvæmdastjórinn hefur kallað eftir heiti um öryggi barna í tengslum við gervigreind og alþjóðlegum sjóði fyrir gervigreind, sem myndi styðja þróunarlönd við að byggja upp innviði og getu á sviði gervigreindar.
Hann lagði einnig áherslu á þörfina fyrir öryggisverði sem gera gervigreind „örugga, gagnsæja, ábyrga, með mannlega reisn í öndvegi.“
Þótt lands- og svæðisstjórnir taki sínar eigin ákvarðanir um reglusetningu gervigreindar, mun hlutverk Sameinuðu þjóðanna vera að leiða þessar stjórnir saman, leggja vísindalegan grunn að umræðum og greina svið fyrir alþjóðlegt samstarf.
Gervigreind á allsherjarþinginu
Sumir erindrekar sem vitnað er til í fréttum geta sér þess til að öryggisráðið muni ræða gervigreind á hátíðarvikunni.
Í höfuðstöðvum Sameinuðu þjóðanna, samhliða almennum umræðum – þar sem áhyggjur af gervigreind munu án efa vera áberandi í ræðustól – hafa verið haldnir sem náðu hámarki með umræðum þann 23. september.
Guterres lagði áherslu á blaðamannafundi sínum að gervigreind yrði „mikið umræðuefni“ í viðræðum hans við leiðtoga heimsins í næstu viku.
.Aðalframkvæmdastjórinn líkti þróun gervigreindar við vígbúnaðarkapphlaup Bandaríkjanna og Sovétríkjanna á tímum kalda stríðsins og kallaði eftir samvinnu milli landa sem eru í fararbroddi í gervigreindarþróun – þar á meðal Bandaríkjanna og Kína – til að hægja á þróuninni á meðan áhættan er metin.
„Löndin sem búa yfir mestu getunni á framlínu gervigreindar – ég tel að þau ættu að koma á fót samskiptaleiðum, skiptast á upplýsingum og (skapa) sameiginlegar varnir til að forðast kapphlaup niður á við sem gæti einn daginn leitt til gríðarlegra hamfara á heimsvísu,“ sagði Guterres.
Með þær vísindalegu og diplómatísku leiðir sem nú eru fyrir hendi munu Sameinuðu þjóðirnar halda áfram að vinna að því að breyta þeirri samvinnu í áþreifanlegar aðgerðir eftir því sem gervigreind verður sífellt öflugri.