Gervigreind á góðri leið með að „taka yfir “ ákvarðanatöku manna í hernaði

Hernaður. Gervigreind er nú þegar mikið notuð á vígvellinum og hlutverk mannlegrar dómgreindar í hernaðaraðgerðum fer ört minnkandi að sögn yfirmanns sjálfstæðrar rannsóknarstofnunar Sameinuðu þjóðanna í afvopnunarmálum.

Á kynningarfundi í höfuðstöðvum Sameinuðu þjóðanna í New York lagði Robin Geiss, forstjóri UNIDIR, beinskeytta spurningu fyrir blaðamenn: „Ætlum við að leyfa vélum að velja fólk sem skotmörk og drepa það?“ spurði hann og varaði við því að gervigreind væri í auknum mæli „á góðri leið með að ýta mannlegri ákvarðanatöku til hliðar“ á þessu sviði.

Aðalframkvæmdastjóri Sameinuðu þjóðanna hefur ítrekað hvatt hagsmunaaðila til að tryggja að við förum ekki yfir þessa „siðferðilegu rauðu línu“.

Húsbóndi og herforingi

Gervigreind er falin sífellt fleiri verkefni í hernaðarmálum, allt frá greiningu leyniþjónustuupplýsinga og auðkenningu skotmarka til drónaaðgerða og skipulagningar netárása.

Það sem skiptir sköpum er að þetta gerist á kostnað mannlegrar dómgreindar, meðal annars á sviði kjarnorkuvopna, lagði Geiss Geiss lagði áherslu á.

Þessi breyting er að auka hraða hernaðaraðgerða á vígvellinum til muna, stytta tímann frá því að skotmörk eru greind þar til árás er gerð á þau og gera herjum kleift að ráðast á fordæmalausan fjölda skotmarka á hverjum degi.

Á sama tíma eru mörg þessara gervigreindarkerfa, sem eru í stöðugri þróun, ógagnsæ, og yfirmaður UNIDIR varaði við því að þau væru að auka hættuna á mistökum, misreikningi og þar með óviljandi stigmögnun.

Eftir því sem gervigreindartól verða auðveldari í notkun verður einnig auðveldara fyrir aðila utan ríkja að taka þátt í sífellt flóknari hernaðaraðgerðum, sagði hann.

Samkeppni

Geiss viðurkenndi að pólitísk samkeppni og spenna væru „alvarlegar hindranir“ í vegi fyrir því að setja reglur um aðkomu gervigreindar að hernaði.

Hann lagði þó einnig áherslu á að áhyggjur af hættunum sem henni fylgja væru í auknum mæli sameiginlegar – óháð pólitískri afstöðu – meðal annars á meðal helstu stórvelda heims.

Í september lögðu Bandaríkin til dæmis til „tilkynningakerfi“ um gervigreind við Kína, svo að þau tvö ríki heims sem verja mestu fé til hermála geti varað hvort annað við gervigreindaratvikum sem gætu ógnað þjóðaröryggi.

Ítrekuð ákall aðalframkvæmdastjóra Sameinuðu þjóðanna um strangari reglur um hernaðarlega gervigreind og lagalega bindandi sáttmála um banvæn sjálfvirk vopnakerfi „fá einnig sífellt meiri hljómgrunn innan alþjóðasamfélagsins“, sagði forstjóri UNIDIR.

Fjölþjóðleg viðbrögð 

UNIDIR vinnur ötullega að því að skapa nokkrar af þeim grunnstoðum sem þarf fyrir fjölþjóðlegt samstarf um málið.

Á fimmtudag mun öndvegissetur UNIDIR um gervigreind, frið og öryggi hleypa af stokkunum nýjum samráðsvettvangi margra hagsmunaaðila um gervigreind í alþjóðlegum friði og öryggi og á sviði hernaðar – þeim fyrsta og eina sinnar tegundar innan kerfis Sameinuðu þjóðanna hingað til, sagði Geiss.

Vettvangurinn mun einbeita sér að þremur sviðum:

1. Að þróa ramma um ábyrga hegðun iðnaðarins, með hagnýtum, valfrjálsum leiðbeiningum sem fyrirtæki geta fylgt á hönnunar- og þróunarstigi hernaðarlegra gervigreindartóla.
2. Að þróa „orðasafn um gervigreindaröryggi“ til að skýra lykilhugtök á borð við sjálfstæði, öryggi eða varnir, sem ólíkir hagsmunaaðilar nota nú á mjög mismunandi hátt – sem skapar óvissu sem hamlar trausti og samstarfi.
3. Að bregðast við hættunni á misnotkun vopnaðra hópa utan ríkja á gervigreind til að styðja við skipulagningu aðgerða, framkvæmd þeirra og birgðaflutninga.