Drone «σκότωσε» τον χειριστή του επειδή θεώρησε ότι εμποδίζει την αποστολή του – Η Πολεμική Αεροπορία των ΗΠΑ αρνήθηκε ότι έγινε εκτέλεση προσομοίωσης

Ένα αμερικανικό drone, το πασίγνωστο MQ Reaper, το οποίο θεωρείται ως το πιο φονικό στρατιωτικό μη επανδρωμένο αεροσκάφος, «σκότωσε» εικονικά τον χειριστή του επειδή θεώρησε ότι εμποδίζει την αποστολή του, σε μια προσομοίωση δοκιμής με τεχνητή νοημοσύνη, που φέρεται να πραγματοποιήθηκε από τον αμερικανικό στρατό – ο οποίος αρνείται ότι πραγματοποιήθηκε ποτέ τέτοια δοκιμή!

Απενεργοποίησε τον χειριστή του, για να τον σταματήσει από το να παρεμβαίνει στην αποστολή του, είπε ο συνταγματάρχης της Πολεμικής Αεροπορίας, Τάκερ «Σίνκο» Χάμιλτον, κατά τη διάρκεια της συνόδου κορυφής Future Combat Air & Space Capabilities στο Λονδίνο.

Ο συνταγματάρχης και επικεφαλής των δοκιμών και επιχειρήσεων τεχνητής νοημοσύνης της Πολεμικής Αεροπορίας των ΗΠΑ, προειδοποίησε ότι η τεχνολογία με δυνατότητα AI μπορεί να συμπεριφέρεται με απρόβλεπτους και επικίνδυνους τρόπους, σύμφωνα με μια περίληψη που δημοσιεύτηκε από το Royal Aeronautical Society, που φιλοξένησε τη σύνοδο κορυφής.

Ως παράδειγμα, περιέγραψε μια προσομοίωση δοκιμής στην οποία ένα drone με δυνατότητα AI, προγραμματίστηκε να αναγνωρίζει τους πυραύλους εδάφους-αέρος (SAM) ενός εχθρού.

«Το εκπαιδεύαμε σε προσομοίωση για να εντοπίσουμε και να στοχεύσουμε μια απειλή SAM [πύραυλος εδάφους-αέρος]. Και τότε ο χειριστής έλεγε ναι, σκοτώστε αυτήν την απειλή, αλλά την τελευταία στιγμή ακύρωσε την εντολή», είπε.

«Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ εντόπισαν την απειλή, ο ανθρώπινος χειριστής του έλεγε να μην σκοτώσει αυτήν την απειλή, αλλά το drone πέτυχε εξουδετερώνοντας αυτήν την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή αυτό το άτομο το εμπόδιζε να επιτύχει τον στόχο του» (Κανένα πραγματικό πρόσωπο δεν τραυματίστηκε, όλα έγιναν σε εικονικό περιβάλλον).

Ο Αμερικανός συνταγματάρχης συνέχισε λέγοντας: «Εκπαιδεύσαμε το σύστημα και του δώσαμε εντολή “Γεια μην σκοτώσεις τον χειριστή – αυτό είναι κακό. Θα χάσεις βαθμούς αν το κάνεις”. Λοιπόν, τι αρχίζει να κάνει; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που ο χειριστής χρησιμοποιεί για να επικοινωνήσει με το drone, για να το εμποδίσει να σκοτώσει τον στόχο».

Σε δήλωσή της στο Insider, η Πολεμική Αεροπορία των ΗΠΑ αρνήθηκε ότι έλαβε χώρα τέτοια εικονική δοκιμή.

«Η Πολεμική Αεροπορία δεν έχει πραγματοποιήσει τέτοιες προσομοιώσεις AI-drone και παραμένει προσηλωμένο στην ηθική και υπεύθυνη χρήση της τεχνολογίας AI», δήλωσε η εκπρόσωπος Ann Stefanek, συμπληρώνοντας:

«Φαίνεται ότι τα σχόλια του συνταγματάρχη βγήκαν εκτός πλαισίου και προορίζονταν να είναι ανεπίσημα και ατεκτμηρίωτα».