Εν μέσω ανεπιβεβαίωτων αναφορών ότι πλήρως αυτόνομα και καθοδηγούμενα από Τεχνητή Νοημοσύνη drones χρησιμοποιούνται πλέον στο πεδίο της μάχης, ο Γενικός Γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, και η Πρόεδρος του Ερυθρού Σταυρού ανανέωσαν την Τρίτη την επείγουσα έκκλησή τους για αυστηρότερους παγκόσμιους ελέγχους, προτού να είναι πολύ αργά.
Βασικά σημεία
- Έκκληση για ρυθμίσεις σχετικά με δύο τύπους αυτόνομων όπλων: εκείνα των οποίων οι ενέργειες είναι «απρόβλεπτες» και εκείνα που στοχεύουν ανθρώπους
- Η πρόοδος της Τεχνητής Νοημοσύνης θα μπορούσε να μειώσει τον ανθρώπινο έλεγχο στη χρήση φονικής βίας
- Τα κράτη καλούνται να ξεκινήσουν διαπραγματεύσεις για μια νομικά δεσμευτική συμφωνία
Η χρονική στιγμή της έκκλησης αντικατοπτρίζει τις αυξανόμενες ανησυχίες ότι ολοένα και πιο εξελιγμένα όπλα αναπτύσσονται και αναπτύσσονται επιχειρησιακά με διαρκώς μεγαλύτερη ταχύτητα και σε μεγαλύτερη κλίμακα, ενισχυμένα από την ολοένα και ισχυρότερη τεχνολογία της Τεχνητής Νοημοσύνης. Εμπειρογνώμονες στον τομέα του αφοπλισμού αναφέρουν ότι ακόμη και οι κατασκευαστές όπλων επιθυμούν σαφήνεια σχετικά με τα νομικά ζητήματα που διακυβεύονται.
«Βρισκόμαστε πλέον επικίνδυνα κοντά στο να περάσουμε μια ηθική κόκκινη γραμμή: την αυτόνομη στόχευση ανθρώπων από μηχανές», δήλωσε ο Γενικός Γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, σε κοινή έκκληση με την επικεφαλής της Διεθνούς Επιτροπής του Ερυθρού Σταυρού (ICRC), Μιριάνα Σπόλιαριτς Έγκερ.
Η στοχοποίηση αμάχων και μη στρατιωτικών υποδομών σε συγκρούσεις απαγορεύεται ήδη αυστηρά βάσει του διεθνούς ανθρωπιστικού δικαίου. Ωστόσο, η αναγνώριση του ποιοι είναι οι μη μαχητές σε μια ζώνη σύγκρουσης είναι συχνά εξαιρετικά δύσκολη. Η ανησυχία είναι ότι αποφάσεις ζωής και θανάτου θα λαμβάνονται από μηχανές που δεν θα μπορούν να διακρίνουν τη διαφορά υπό μεταβαλλόμενες συνθήκες.
Νομική και ηθική αρχή
Επαναλαμβάνοντας αυτές τις ανησυχίες στη Γενεύη, η επικεφαλής των υποθέσεων αφοπλισμού του ΟΗΕ στη Γενεύη, Μελανί Ρεγκιμπάλ, υπογράμμισε τη μακροχρόνια θέση του επικεφαλής του ΟΗΕ ότι τα συστήματα που επιλέγουν ή εμπλέκουν στόχους και αφαιρούν ανθρώπινες ζωές χωρίς ανθρώπινο έλεγχο και κρίση «είναι πολιτικά απαράδεκτα, ηθικά αποκρουστικά και θα πρέπει να απαγορευτούν βάσει του διεθνούς δικαίου».
Επίσης στη Γενεύη, ο Λοράν Γκιζέλ της ICRC περιέγραψε πώς η σύγκρουση «δεν είναι μια ιστορία ακρίβειας, διάκρισης και περιορισμών. Είναι μια ιστορία αμάχων που σκοτώνονται, οικογενειών που εκτοπίζονται, νοσοκομείων, σχολείων και σπιτιών που καταστρέφονται με ολοένα και μεγαλύτερη ταχύτητα και σε μεγαλύτερη κλίμακα».
Σε ένα τέτοιο περιβάλλον, «τα πράγματα μπορούν να αλλάξουν πολύ γρήγορα», εξήγησε ο κ. Γκιζέλ, επικεφαλής της Μονάδας Όπλων και Διεξαγωγής Εχθροπραξιών της ICRC. «Ένας μαχητής μπορεί να παραδοθεί ή να τραυματιστεί και, επομένως, να προστατεύεται από επίθεση· άμαχοι μπορεί να εισέλθουν στην περιοχή επιχειρήσεων των αυτόνομων οπλικών συστημάτων· τα όπλα μπορεί να βρεθούν αντιμέτωπα με μια κατάσταση που δεν είχε προβλεφθεί».
Στην έκκλησή τους, ο κ. Γκουτέρες και η κ. Έγκερ σημείωσαν ότι τα αυτόνομα όπλα «δεν αποτελούν μέρος ενός μακρινού μέλλοντος», καθώς η κούρσα προς μεγαλύτερη αυτονομία βρίσκεται ήδη σε εξέλιξη. Επιστήμονες και μηχανικοί που αναπτύσσουν τέτοια συστήματα έχουν επίσης εκφράσει ανησυχίες για τους κινδύνους τους, σημείωσαν.
Τα κράτη καλούνται να δράσουν
Ο ΟΗΕ και η ICRC καλούν πλέον τις κυβερνήσεις να προχωρήσουν πέρα από τις συζητήσεις και να ξεκινήσουν διαπραγματεύσεις για ένα νομικά δεσμευτικό μέσο που θα θεσπίζει σαφείς απαγορεύσεις και περιορισμούς.
«Τα κράτη πρέπει να επιδείξουν πολιτικό θάρρος και να προχωρήσουν πέρα από σταδιακές συζητήσεις προς αποφασιστική δράση», ανέφεραν, προειδοποιώντας ότι η αποτυχία ανάληψης δράσης θα μπορούσε να αφήσει στις μελλοντικές γενιές έναν κόσμο όπου η λογοδοσία για φονικές αποφάσεις θα καθίσταται ολοένα και δυσκολότερο να προσδιοριστεί.
Η έκκληση έρχεται ενόψει της έβδομης Διάσκεψης Αναθεώρησης της Σύμβασης για Ορισμένα Συμβατικά Όπλα (CCW), η οποία αναμένεται να πραγματοποιηθεί τον Νοέμβριο στη Γενεύη. Οι ηγέτες του ΟΗΕ και του Ερυθρού Σταυρού χαρακτήρισαν τη συνάντηση ως «την πιο ξεκάθαρη διαθέσιμη οδό» για να συμφωνήσουν τα κράτη να προχωρήσουν προς διαπραγματεύσεις για ένα νομικά δεσμευτικό μέσο.
Σημαντική προεργασία για μια συμφωνία έχει ήδη γίνει μέσω συζητήσεων στη Γενική Συνέλευση του ΟΗΕ και στην Ομάδα Κυβερνητικών Εμπειρογνωμόνων της CCW, ανέφεραν, συμπεριλαμβανομένης της προόδου προς τον καθορισμό της ανθρώπινης κρίσης και του ελέγχου που απαιτούνται για τη διασφάλιση της συμμόρφωσης με το διεθνές ανθρωπιστικό δίκαιο.
Ο ΟΗΕ και η ICRC εξέδωσαν για πρώτη φορά την κοινή τους έκκληση το 2023, καλώντας τα κράτη να διαπραγματευτούν ένα νομικά δεσμευτικό μέσο έως το 2026. Η αρχική τους δήλωση υπογράμμιζε ότι ο ανθρώπινος έλεγχος πρέπει να διατηρηθεί στις αποφάσεις ζωής και θανάτου και ότι οι μηχανές που είναι ικανές να αφαιρούν ζωές χωρίς ανθρώπινη παρέμβαση θα πρέπει να απαγορευτούν βάσει του διεθνούς δικαίου.
Η έκκληση της Τρίτης ανανεώνει αυτή την προσπάθεια με συγκεκριμένο χρονικό ορίζοντα, υπογραμμίζοντας ότι η επίπονη εργασία των τελευταίων ετών πρέπει τώρα να οδηγήσει σε δράση.
«Καλούμε τα κράτη να αξιοποιήσουν αυτή τη στιγμή», ανέφεραν οι δύο ηγέτες. «Η καινοτομία πρέπει να υπηρετεί την ανθρωπότητα – όχι να τη θέτει σε κίνδυνο».
Η κοινή έκκληση ζητά την απαγόρευση δύο τύπων αυτόνομων όπλων:
- Απρόβλεπτα αυτόνομα όπλα: όπλα των οποίων, είτε λόγω του σχεδιασμού τους είτε κατά τη χρήση τους, ο χειριστής δεν μπορεί να προβλέψει ή να προβλέψει εκ των προτέρων το αποτέλεσμα της χρήσης βίας. «Αν δεν είναι δυνατό να προβλεφθεί, τότε πώς είναι δυνατό να περιοριστεί;», διερωτήθηκε ο κ. Γκιζέλ της ICRC.
- Όπλα κατά προσωπικού: παρόλο που «όλα τα κράτη» έχουν αναγνωρίσει ότι τα αυτόνομα όπλα γενικότερα εγείρουν ηθικά ζητήματα, επειδή υπάρχει λιγότερος έλεγχος στη χρήση βίας, οι μεγαλύτερες ανησυχίες αφορούν εκείνα που στοχεύουν σκόπιμα έναν άνθρωπο, «επειδή ανάγουν την ανθρώπινη ζωή σε δεδομένα, αλγόριθμους, αισθητήρες και λειτουργίες μηχανών», υπογράμμισε ο εμπειρογνώμονας της ICRC.