Οι διαπραγματεύσεις για τα αυτόνομα όπλα αποτελούν την πιο προχωρημένη διεθνή προσπάθεια για τη ρύθμιση της στρατιωτικής χρήσης της τεχνητής νοημοσύνης (IA) και θα μπορούσαν να οδηγήσουν σε μια νομικά δεσμευτική συνθήκη.
Τα λεγόμενα αυτόνομα όπλα είναι συστήματα ικανά να εκτελούν συγκεκριμένες στρατιωτικές λειτουργίες χωρίς άμεση ανθρώπινη παρέμβαση.
Σύμφωνα με την εφημερίδα The Washington Post, οι διαπραγματεύσεις του Σεπτεμβρίου προχώρησαν προς την κατεύθυνση κανόνων που απαιτούσαν «προβλέψιμα» και «αξιόπιστα» συστήματα, καθώς και ανθρώπινη επανεξέταση των στόχων που επιλέγονται μέσω της AI. Ωστόσο, αρκετές χώρες, με πρώτη τις Ηνωμένες Πολιτείες, κατάφεραν να εξαλείψουν αυτές τις διατάξεις.
Δεδομένου ότι οι συνομιλίες απαιτούν ομοφωνία, οι μεγάλες δυνάμεις διαθέτουν σημαντική ικανότητα να ασκήσουν βέτο.
Η σημασία της συζήτησης ξεπερνά την τεχνική ανάλυση. Διαπραγματεύεται το πού τελειώνει η αυτοματοποίηση και πού πρέπει να παραμείνει μια ανθρώπινη ευθύνη που δεν μπορεί να ανατεθεί. Επιπλέον, η στρατιωτική τεχνητή νοημοσύνη έχει ήδη βγει από το εργαστήριο. Δεν είναι δύσκολο σήμερα να βρει κανείς στοιχεία για τη χρήση της στην αναγνώριση ανθρώπινων στόχων σε πρόσφατες συγκρούσεις, όπως η γενοκτονία που διαπράτει το Ισραήλ στην Παλαιστίνη.
Ο Μαρκ Κοεκελμπέρχ, φιλόσοφος του Πανεπιστημίου της Βιέννης και μέλος της ομάδας των 40 εμπειρογνωμόνων που συγκάλεσαν τα Ηνωμένα Έθνη για να παρέχουν συμβουλές σχετικά με την τεχνητή νοημοσύνη, προτείνει να απομακρυνθεί η προσοχή από το αποκαλυπτικό σενάριο σύμφωνα με το οποίο οι μηχανές θα καταλήξουν να κυριαρχήσουν πάνω στην ανθρωπότητα.
Σε συνέντευξή του στο elDiario.es υποστηρίζει ότι αυτή η ρητορική μπορεί επίσης να λειτουργήσει ως στρατηγική εξουσίας. Οι εταιρείες παρουσιάζουν τα μοντέλα τους ως εξαιρετικά ισχυρές και επικίνδυνες τεχνολογίες και, ταυτόχρονα, τοποθετούνται ως προνομιούχοι παράγοντες για τον έλεγχο των κινδύνων τους και την άσκηση επιρροής στη ρύθμισή τους.
Γι’ αυτό και οι διαπραγματεύσεις για τα αυτόνομα όπλα στον ΟΗΕ είναι σημαντικές και, για πρώτη φορά, μεταφέρουν το ζήτημα σε διεθνές επίπεδο.
Για τον παγκόσμιο Νότο, αυτό έχει ιδιαίτερη σημασία. Εάν οι διεθνείς κανόνες διαμορφωθούν με βάση τις προτεραιότητες όσων κατέχουν τις τεχνολογίες, άλλες χώρες ενδέχεται να υποστούν κινδύνους που δεν επέλεξαν και να υποβληθούν σε πρότυπα στα οποία σχεδόν δεν συνέβαλαν στη διαμόρφωσή τους.
Οι συνθήκες που αφορούν άλλα όπλα δείχνουν, σύμφωνα με τον Ρίτσαρντ Λέναν, σύμβουλο της Διεθνούς Επιτροπής του Ερυθρού Σταυρού, τον οποίο επικαλείται η «Post», ότι οι διεθνείς κανόνες μπορούν να επηρεάσουν τη συμπεριφορά των κρατών.
Η συζήτηση στα Ηνωμένα Έθνη θέτει έτσι ένα ζήτημα πολύ ευρύτερο από το μέλλον μιας τεχνολογίας. Καθορίζει ποιος θα έχει την εξουσία να θέσει τα όριά της και ποια συμφέροντα θα υπερισχύουν όταν αυτά τα όρια επηρεάζουν την ανθρώπινη ζωή.
Είναι παλιά η τάση να αποδίδουμε βούληση και δική τους δύναμη σε ό,τι δεν κατανοούμε. Όμως εδώ τη δύναμη δεν την έχουν οι μηχανές, αλλά οι άνθρωποι που τις σχεδιάζουν, τις ελέγχουν και αποφασίζουν για ποιο σκοπό θα τις χρησιμοποιήσουν.
Η τεχνητή νοημοσύνη δεν εισέρχεται από μόνη της στον πόλεμο, την οικονομία ή την επικοινωνία. Η ανάκτηση της συλλογικής ικανότητας λήψης αποφάσεων σημαίνει να μετατρέψουμε ένα πρόβλημα που παρουσιάζεται ως αναπόφευκτα τεχνολογικό σε αυτό που πραγματικά είναι: μια διαμάχη για την εξουσία, την ευθύνη και το κοινό πεπρωμένο.
διαπράττει το Ισραήλ στην Παλαιστίνη.