CNN: Λανθασμένη πληροφορία της AI παραλίγο να οδηγήσει ΗΠΑ και Κίνα σε σύγκρουση

Ένα λανθασμένο συμπέρασμα που παρήγαγε σύστημα τεχνητής νοημοσύνης παραλίγο να οδηγήσει τις ΗΠΑ σε στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου, δημιουργώντας τον κίνδυνο μιας εξαιρετικά σοβαρής κρίσης μεταξύ Ουάσιγκτον και Πεκίνου.

Σύμφωνα με αποκλειστικό ρεπορτάζ του CNN, έκθεση πληροφοριών που κυκλοφόρησε στις αμερικανικές ένοπλες δυνάμεις την άνοιξη ανέφερε ότι κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα πυρηνικών όπλων. Η πληροφορία προκάλεσε άμεση κινητοποίηση για την αναχαίτιση του πλοίου.

Η προετοιμασία είχε προχωρήσει σε τέτοιο βαθμό ώστε αμερικανικά στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα και ένοπλο προσωπικό προετοιμαζόταν να επιβιβαστεί στο κινεζικό πλοίο.

Λίγο πριν προχωρήσει η επιχείρηση, πιο έμπειροι αναλυτές επανεξέτασαν τα στοιχεία στα οποία βασιζόταν η έκθεση και διαπίστωσαν ότι η πληροφορία για το φορτίο ήταν λανθασμένη. Η επιχείρηση ακυρώθηκε την τελευταία στιγμή.

Πώς προέκυψε το λάθος

Σύμφωνα με το CNN, αναλυτής της Διοίκησης Ειδικών Επιχειρήσεων είχε χρησιμοποιήσει chatbot για να επεξεργαστεί πληροφορίες σχετικά με το φορτίο του πλοίου, συνδυάζοντας δεδομένα από ανοιχτές πηγές με διαβαθμισμένες πληροφορίες σημάτων.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

ΗΠΑ – Δανία: Συμφωνία για τη Γροιλανδία με ενισχυμένη αμερικανική στρατιωτική παρουσία

Το σύστημα κατέληξε λανθασμένα στο συμπέρασμα ότι το φορτίο περιλάμβανε υλικό που συνδεόταν με πρόγραμμα πυρηνικών όπλων. Στη συνέχεια χρησιμοποιήθηκε ξανά AI για τη διαμόρφωση των ευρημάτων σε τυπική έκθεση πληροφοριών, η οποία διανεμήθηκε στον αμερικανικό στρατό. Δεν έχει εξακριβωθεί εάν επρόκειτο για εμπορικό chatbot ή για εσωτερικό κυβερνητικό σύστημα.

Μία από τις πηγές του CNN χαρακτήρισε την έκθεση «εντελώς ψευδή», υποστηρίζοντας ότι το περιστατικό παραλίγο να προκαλέσει πόλεμο.

Η υπόθεση επαναφέρει στο προσκήνιο το ζήτημα των λεγόμενων «hallucinations» των συστημάτων τεχνητής νοημοσύνης, δηλαδή περιπτώσεων στις οποίες ένα μοντέλο παράγει ανακριβείς πληροφορίες με τρόπο που μπορεί να εμφανίζεται πειστικός.

Το περιστατικό αποκτά ακόμη μεγαλύτερη βαρύτητα καθώς οι αμερικανικές ένοπλες δυνάμεις διευρύνουν τη χρήση εργαλείων AI στην επεξεργασία πληροφοριών και στον στρατιωτικό σχεδιασμό, ενώ, σύμφωνα με το CNN, διαφορετικές υπηρεσίες χρησιμοποιούν διαφορετικά συστήματα και διαδικασίες ελέγχου.

Πηγή: newsit.gr