Ένα σοβαρό σφάλμα τεχνητής νοημοσύνης, το οποίο ενσωματώθηκε σε έκθεση αμερικανικών υπηρεσιών πληροφοριών, λίγο έλειψε να οδηγήσει τις ΗΠΑ σε στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου και να προκαλέσει μια επικίνδυνη κλιμάκωση στις ήδη τεταμένες σχέσεις Ουάσιγκτον και Πεκίνου.
Αποκάλυψη CNN: Μια λανθασμένη πληροφορία από την Τεχνητή Νοημοσύνη παραλίγο να ξεκινήσει πόλεμο μεταξύ ΗΠΑ και Κίνας!
Η αμερικανική πλευρά είχε αρχίσει να προετοιμάζει την αναχαίτιση του πλοίου, καθώς σε έκθεση των υπηρεσιών πληροφοριών αναφερόταν ότι μετέφερε εξαρτήματα τα οποία συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων.
Η πληροφορία, ωστόσο, αποδείχθηκε λανθασμένη. Και το πιο ανησυχητικό στοιχείο ήταν ο τρόπος με τον οποίο είχε προκύψει: μόλις λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι διαπίστωσαν ότι η επίμαχη έκθεση είχε συνταχθεί με τη βοήθεια chatbot τεχνητής νοημοσύνης.
Μία από τις πηγές που μίλησαν στο CNN χαρακτήρισε την έκθεση «εντελώς ψευδή» και δήλωσε ότι «παραλίγο να ξεκινήσει έναν πόλεμο».
Πώς η AI οδήγησε σε λάθος συμπέρασμα
Η έκθεση είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ, ο οποίος χρησιμοποίησε chatbot προκειμένου να επεξεργαστεί και να συσχετίσει πληροφορίες σχετικά με τα πρωτόκολλα του πλοίου.
Το σύστημα συνδύασε δεδομένα από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων και κατέληξε σε λανθασμένο συμπέρασμα σχετικά με το φορτίο του κινεζικού πλοίου.
Το κρίσιμο, όμως, δεν σταμάτησε εκεί. Ο αναλυτής χρησιμοποίησε εκ νέου την AI, αυτή τη φορά για να μετατρέψει τα ευρήματα σε τυπική έκθεση πληροφοριών. Το έγγραφο διανεμήθηκε στη συνέχεια στους αρμόδιους αξιωματούχους, αποκτώντας έτσι την τυπική μορφή και βαρύτητα μιας υπηρεσιακής εκτίμησης.
Λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι εξέτασαν λεπτομερέστερα το περιεχόμενο της έκθεσης και εντόπισαν ότι είχε συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης. Η εξέλιξη αυτή οδήγησε σε περαιτέρω έλεγχο των πληροφοριών και τελικά στην αποκάλυψη του λάθους.
Δεν έχει διευκρινιστεί εάν το chatbot ήταν διαθέσιμο στο ευρύ κοινό ή εάν επρόκειτο για ειδικά σχεδιασμένο εργαλείο της αμερικανικής κυβέρνησης. Παράλληλα, το CNN δεν μπόρεσε να εξακριβώσει ποιο ακριβώς ήταν το φορτίο που αναγνωρίστηκε λανθασμένα από το σύστημα.
Μία από τις πηγές χαρακτήρισε την έκθεση «εντελώς ψευδή», προσθέτοντας ότι «παραλίγο να ξεκινήσει έναν πόλεμο». Μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει αλυσιδωτές αντιδράσεις, να οδηγήσει σε στρατιωτική κλιμάκωση και, υπό ορισμένες συνθήκες, να εξελιχθεί σε ένοπλη σύγκρουση μεταξύ των δύο χωρών.
Η Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού και το Πεντάγωνο δεν απάντησαν σε αίτημα του CNN για σχόλιο σχετικά με το περιστατικό.
Η ταχεία επέκταση της AI στις αμερικανικές ένοπλες δυνάμεις
Το περιστατικό αποκτά ακόμη μεγαλύτερη σημασία καθώς σημειώνεται σε μια περίοδο κατά την οποία οι αμερικανικές ένοπλες δυνάμεις επιταχύνουν την ενσωμάτωση της τεχνητής νοημοσύνης σε ολοένα και περισσότερες δραστηριότητες.
Η AI χρησιμοποιείται ήδη για την επεξεργασία και ανάλυση τεράστιων όγκων πληροφοριών, για την υποστήριξη της διαδικασίας επιλογής στόχων, αλλά και σε λιγότερο εμφανείς λειτουργίες, όπως η διαχείριση προϋπολογισμών, η εφοδιαστική και η λειτουργία των αλυσίδων εφοδιασμού.
Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης», επιδιώκοντας να επιταχύνει την ενσωμάτωση της συγκεκριμένης τεχνολογίας στις αμερικανικές ένοπλες δυνάμεις.
«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα επικεντρώσουμε τις επενδύσεις μας και θα αποδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην AI για στρατιωτικούς σκοπούς», είχε δηλώσει ο Χέγκσεθ.
Η στρατηγική προβλέπει τη διάθεση εργαλείων τεχνητής νοημοσύνης σε περίπου τρία εκατομμύρια πολιτικούς και στρατιωτικούς υπαλλήλους του υπουργείου, σε όλα τα επίπεδα διαβάθμισης.
Η ταχύτητα, όμως, με την οποία προχωρά η υιοθέτηση της τεχνολογίας φαίνεται να δημιουργεί και νέες προκλήσεις.
Αποκάλυψη CNN: Μια λανθασμένη πληροφορία από την Τεχνητή Νοημοσύνη παραλίγο να ξεκινήσει πόλεμο μεταξύ ΗΠΑ και Κίνας!
Σύμφωνα με Αμερικανούς αξιωματούχους που γνωρίζουν την κατάσταση, η χρήση της AI πραγματοποιείται σε μεγάλο βαθμό αποκεντρωμένα, με διαφορετικά τμήματα να αξιοποιούν διαφορετικά εργαλεία και να εφαρμόζουν διαφορετικές οδηγίες και πρότυπα ασφαλείας.
Αυτό σημαίνει ότι δεν υπάρχει, σύμφωνα με τις ίδιες πηγές, ένα ενιαίο σύνολο κανόνων που να καθορίζει με ποιον τρόπο πρέπει να επαληθεύονται οι πληροφορίες που παράγουν τα συγκεκριμένα συστήματα.
Και ακριβώς εδώ βρίσκεται ένα από τα μεγαλύτερα προβλήματα: ένα λάθος που θα μπορούσε να εντοπιστεί εύκολα σε μια καθημερινή εφαρμογή AI μπορεί να αποκτήσει εντελώς διαφορετικές διαστάσεις όταν εισέρχεται στην αλυσίδα παραγωγής στρατιωτικών πληροφοριών.
Ο κίνδυνος των «hallucinations»
Οι λεγόμενες «hallucinations» —οι περιπτώσεις κατά τις οποίες ένα σύστημα τεχνητής νοημοσύνης παράγει πληροφορίες που δεν ανταποκρίνονται στην πραγματικότητα— αποτελούν γνωστό πρόβλημα των συστημάτων AI.
Πηγή που γνωρίζει τις τρέχουσες πολιτικές του αμερικανικού στρατού δήλωσε ότι η χρήση της AI για την επιλογή στόχων «είναι σίγουρα κάτι που αυξάνεται» και ότι «δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ενός ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή φίλια πυρά».
Σύμφωνα με μία από τις πηγές, περιστατικά στα οποία η AI παράγει λανθασμένες πληροφορίες, γνωστά ως «hallucinations», δεν αποτελούν μεμονωμένο φαινόμενο στην κοινότητα των αμερικανικών υπηρεσιών πληροφοριών.
Το πρόβλημα γίνεται ακόμη πιο σύνθετο όταν η τεχνολογία χρησιμοποιείται σε ένα περιβάλλον όπου η ταχύτητα θεωρείται κρίσιμο πλεονέκτημα. Ορισμένοι αξιωματούχοι υποστηρίζουν ότι η αυξανόμενη πίεση για ταχύτερη παραγωγή και διανομή πληροφοριών μπορεί να αυξάνει τον κίνδυνο λαθών, ιδιαίτερα όταν οι αναλυτές βασίζονται στα εργαλεία AI χωρίς να πραγματοποιούν επαρκή και ανεξάρτητο έλεγχο των αποτελεσμάτων τους.
Σε ένα τέτοιο περιβάλλον, η τεχνητή νοημοσύνη μπορεί να λειτουργήσει ως επιταχυντής όχι μόνο της ανάλυσης, αλλά και της ίδιας της λανθασμένης εκτίμησης.
«Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα», δήλωσε χαρακτηριστικά μία από τις πηγές.
Κάντε like στη σελίδα μας στο facebook για να μαθαίνετε όλα τα νέα