Τα αυτόνομα όπλα1 επιλέγουν και εγκλωβίζουν στόχους χωρίς την ανθρώπινη παρέμβαση. Θα μπορούσαν να περιλαμβάνουν, για παράδειγμα, εξοπλισμένα στροφιόπτερα2 (quadcopters) που μπορούν να αναζητήσουν και να εξοντώσουν ανθρώπους που πληρούν προκαθορισμένα κριτήρια, αλλά δεν περιλαμβάνουν πυραύλους κρουζ ή τηλεκατευθυνόμενα μη επανδρωμένα αεροσκάφη, για τα οποία οι άνθρωποι λαμβάνουν όλες τις αποφάσεις στόχευσης. Η Τεχνολογία Τεχνητής Νοημοσύνης έχει φτάσει σε ένα σημείο όπου η ανάπτυξη των συστημάτων αυτών είναι –ουσιαστικά αν όχι νομικά– εφικτή μέσα σε χρόνια, όχι δεκαετίες, και το διακύβευμα είναι υψηλό: τα αυτόνομα όπλα έχουν περιγραφεί ως η τρίτη επανάσταση στον πόλεμο, μετά την πυρίτιδα και τα πυρηνικά όπλα.

Πολλά επιχειρήματα έχουν διατυπωθεί υπέρ και κατά των αυτόνομων όπλων, για παράδειγμα, ότι η αντικατάσταση των στρατιωτών από μηχανές είναι επικερδής καθώς μειώνει τις απώλειες για τον ιδιοκτήτη τους, αλλά ανασταλτική επειδή περιορίζει το κίνητρο για να πολεμήσουν. Το βασικό ερώτημα για την ανθρωπότητα σήμερα είναι αν θα ξεκινήσει μια παγκόσμια κούρσα εξοπλισμών Τεχνητής Νοημοσύνης ή αν θα την αποτρέψει. Εάν κάποια σημαντική στρατιωτική δύναμη εξωθήσει στην ανάπτυξη όπλων Τεχνητής Νοημοσύνης, μια παγκόσμια κούρσα εξοπλισμών είναι σχεδόν αναπόφευκτη, και το τελικό σημείο αυτής της τεχνολογικής πορείας είναι προφανές: τα αυτόνομα όπλα θα γίνουν τα καλάσνικοφ του αύριο.

Σε αντίθεση με τα πυρηνικά όπλα, (τα όπλα Τεχνητής Νοημοσύνης) δεν απαιτούν δαπανηρές ή δύσκολα προμηθεύσιμες πρώτες ύλες· έτσι θα είναι πανταχού παρόντα και φθηνά σε όλες τις σημαντικές στρατιωτικές δυνάμεις για μαζική παραγωγή. Θα είναι μόνο θέμα χρόνου μέχρι να εμφανιστούν στη μαύρη αγορά και στα χέρια των τρομοκρατών, δικτατόρων που επιθυμούν να ελέγχουν καλύτερα το λαό τους, πολέμαρχων που επιθυμούν να διαπράξουν εθνοκάθαρση κτλ. Τα αυτόνομα όπλα είναι ιδανικά για τη διάπραξη εγκλημάτων αποσταθεροποίησης εθνών, καθυπόταξη πληθυσμών και την επιλεκτική εξόντωση συγκεκριμένων εθνοτικών ομάδων. Πιστεύουμε λοιπόν ότι μια στρατιωτική κούρσα εξοπλισμών αναφορικά με τα όπλα Τεχνητής Νοημοσύνης δεν θα είναι επωφελής για την ανθρωπότητα. Υπάρχουν πολλοί τρόποι με τους οποίους η Τεχνητή Νοημοσύνη μπορεί να καταστήσει τα πεδία των μαχών ασφαλέστερα για τους ανθρώπους, κυρίως για τους αμάχους, χωρίς να δημιουργηθούν νέα εργαλεία για τη δολοφονία ανθρώπων.

Ακριβώς όπως οι περισσότεροι χημικοί και βιολόγοι δεν έχουν κανένα ενδιαφέρον για την κατασκευή χημικών ή βιολογικών όπλων, οι περισσότεροι ερευνητές της Τεχνητής Νοημοσύνης δεν έχουν κανένα ενδιαφέρον για την κατασκευή όπλων Τεχνητής Νοημοσύνης –και δεν επιθυμούν οι άλλοι να αμαυρώσουν τον κλάδο τους με αυτόν τον τρόπο, προκαλώντας πιθανώς σημαντική δημόσια αντίδραση κατά της Τεχνητής Νοημοσύνης, ότι περιορίζει τα μελλοντικά κοινωνικά οφέλη της. Πράγματι, χημικοί και βιολόγοι έχουν υποστηρίξει σε μεγάλο βαθμό τις διεθνείς συμφωνίες που έχουν επιτυχώς απαγορεύσει τα χημικά και βιολογικά όπλα, όπως ακριβώς και οι περισσότεροι φυσικοί υποστήριξαν τις συνθήκες για την απαγόρευση των διαστημικών πυρηνικών όπλων και των εκτυφλωτικών όπλων λέιζερ.3

Εν κατακλείδι, πιστεύουμε ότι η Τεχνητή Νοημοσύνη έχει μεγάλες δυνατότητες να ωφελήσει την ανθρωπότητα με πολλούς τρόπους, και ότι στόχος του κλάδου θα έπρεπε να είναι η πραγμάτωσή τους. Η έναρξη μιας στρατιωτικής κούρσας εξοπλισμών Τεχνητής Νοημοσύνης είναι κακή ιδέα, και θα έπρεπε να αποτραπεί με την απαγόρευση των αυτόνομων επιθετικών όπλων τα οποία υπερβαίνουν τον συνετό ανθρώπινο έλεγχο. [524]

http://futureoflife.org
Μετάφραση: Άρης Γιαβρής

 

Σημειώσεις

  1. Αυτή η ανοιχτή επιστολή δημοσιεύθηκε στις 28η Ιουλίου 2015, κατά την έναρξη του International Joint Conference on Artificial Intelligence (IJCAI), στο Μπουένος Άιρες (Αργεντινή, 25-31 Ιουλίου).
  2. Στροφιόπτερο: με αυτόν τον όρο αποδίδεται στην ελληνική ο όρος quadcopter, ή quadrotor ή quadrotor. Πρόκειται για ένα ελικόπτερο πολλαπλών στροφείων (ελίκων) που ανυψώνεται και κινείται με τη βοήθεια τεσσάρων στροφείων. Η ανύψωση των στροφιόπτερων, σε αντίθεση με τα αεροσκάφη σταθερών πτερύγων και τα ελικόπτερα, βασίζεται σε ένα σύνολο κάθετα προσανατολισμένων ελίκων.
  3. Εκτυφλωτικά όπλα λέιζερ: Πρόκειται για όπλα κατευθυνόμενης ακτινοβολίας λέιζερ, που προορίζονται για την προσωρινή τύφλωση ή αποπροσανατολισμό των στόχων τους. Οι στόχοι μπορεί να περιλαμβάνουν αισθητήρες ή ακόμη και την ανθρώπινη όραση. Επειδή τα όπλα αυτά είναι σχεδιασμένα για να προκαλούν μόνιμη τύφλωση, έχουν απαγορευτεί από το Πρωτόκολλο του 1995 των Ηνωμένων Εθνών. Ωστόσο, το Dazzler –ένα μη θανατηφόρο όπλο, που προορίζεται να προκαλέσει προσωρινή τύφλωση ή απώλεια προσανατολισμού– δεν εμπίπτει σ’ αυτό το πρωτόκολλο.