Η αναφορά των αμερικανικών μυστικών υπηρεσιών, η οποία κυκλοφόρησε στις αμερικανικές ένοπλες δυνάμεις την περασμένη άνοιξη, εν μέσω του πολέμου με το Ιράν, προκάλεσε άμεσα ανησυχία. Σύμφωνα με την έκθεση, ένα κινεζικό πλοίο που βρισκόταν στη Μέση Ανατολή μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων.
Ο αμερικανικός στρατός κινητοποιήθηκε, καταρτίζοντας σχέδια για την αναχαίτιση του πλοίου, σύμφωνα με τέσσερις πηγές. Δύο από αυτές ανέφεραν ότι Αμερικανοί στρατιώτες ετοιμάζονταν να επιβιβαστούν στο σκάφος, ενώ, σύμφωνα με άλλες δύο πηγές, στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί και βρίσκονταν στον αέρα.
Λίγο πριν από την προγραμματισμένη επιχείρηση, ωστόσο, Αμερικανοί αξιωματούχοι εξέτασαν πιο προσεκτικά την έκθεση, η οποία είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων, και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης.
Οι αξιωματούχοι διαπίστωσαν ότι ένα chatbot, το οποίο είχε χρησιμοποιήσει ο αναλυτής, είχε κάνει λάθος στην αναγνώριση του φορτίου που μετέφερε το πλοίο.
Σύμφωνα με μία από τις πηγές, η έκθεση ήταν «εντελώς ψευδής». Ωστόσο, όπως χαρακτηριστικά ανέφερε η ίδια πηγή, «παραλίγο να ξεκινήσει πόλεμος».
Μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει σοβαρή κλιμάκωση και να οδηγήσει ακόμη και σε ένοπλη σύγκρουση μεταξύ των δύο χωρών.
Η αυξανόμενη χρήση της AI στον αμερικανικό στρατό
Σε ολόκληρο τον αμερικανικό στρατό και την κοινότητα των υπηρεσιών πληροφοριών, οι αξιωματούχοι προωθούν την ενσωμάτωση της τεχνητής νοημοσύνης σε ολοένα και περισσότερες πτυχές της εργασίας τους.
Η τεχνολογία χρησιμοποιείται για την ανάλυση τεράστιων όγκων πληροφοριών που συλλέγουν οι Ηνωμένες Πολιτείες, την υποστήριξη της επιλογής στόχων για στρατιωτικές επιχειρήσεις, αλλά και για πιο καθημερινές εφαρμογές, όπως η διαχείριση προϋπολογισμών και εφοδιαστικών αλυσίδων.
Το συγκεκριμένο περιστατικό, ωστόσο, αναδεικνύει τους σοβαρούς κινδύνους που μπορεί να προκύψουν από τη χρήση μιας τόσο ισχυρής και σχετικά νέας τεχνολογίας για την αναγνώριση και αξιολόγηση στόχων εν μέσω πολεμικών επιχειρήσεων.
Οι αναλυτές προειδοποιούν εδώ και χρόνια ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε καταστροφικές λανθασμένες εκτιμήσεις, ιδιαίτερα όταν τα κράτη βασίζονται σε ανεπαρκή, ελλιπή ή αλλοιωμένα δεδομένα.
Στη συγκεκριμένη περίπτωση, μια τέτοια αστοχία θα μπορούσε να οδηγήσει τις Ηνωμένες Πολιτείες να ανοίξουν πυρ εναντίον ενός κινεζικού πλοίου, βασιζόμενες σε ανακριβείς πληροφορίες.
Πώς προέκυψε το λάθος
Ο αναλυτής φέρεται να ρώτησε ένα chatbot σχετικά με πληροφορίες που αφορούσαν το φορτωτικό δελτίο του πλοίου. Οι πληροφορίες αυτές προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού των ΗΠΑ, η οποία έχει την έδρα της στη Χαβάη.
Δεν έχει διευκρινιστεί εάν το chatbot ήταν ένα εμπορικά διαθέσιμο εργαλείο ή ένα σύστημα που είχε αναπτυχθεί αποκλειστικά για τις ανάγκες της αμερικανικής κυβέρνησης.
«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών προϊόντων με μια μικρή αλλαγή στην εμφάνιση», δήλωσε πρώην ανώτερος αξιωματούχος των ΗΠΑ, ο οποίος είναι εξοικειωμένος με τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούν στρατιωτικοί και αναλυτές πληροφοριών.
Σύμφωνα με τις ίδιες πληροφορίες, το chatbot συνδύασε δεδομένα από ανοιχτές πηγές με απόρρητες πληροφορίες που προέρχονταν από σήματα τα οποία έχει στη διάθεσή της η αμερικανική κυβέρνηση. Στη συνέχεια κατέληξε στο κρίσιμο, αλλά λανθασμένο, συμπέρασμα σχετικά με το φορτίο του πλοίου.
Ο αναλυτής χρησιμοποίησε εκ νέου την τεχνητή νοημοσύνη για να συγκεντρώσει τα ευρήματα σε μια τυπική έκθεση πληροφοριών, την οποία στη συνέχεια παρέδωσε στους ανωτέρους του.
Το περιστατικό αναδεικνύει με τον πιο δραματικό τρόπο το βασικό πρόβλημα της χρήσης της AI σε κρίσιμες στρατιωτικές αποφάσεις: ένα λανθασμένο συμπέρασμα μπορεί να μετατραπεί, μέσα σε λίγα λεπτά, από μια ψηφιακή «απάντηση» σε πραγματική στρατιωτική ενέργεια.
