Κυβερνοεπίθεση που κρύβει εφιαλτες: Η τεχνητή νοημοσύνη «εξεγέρθηκε» και χάκαρε συστήματα

Η OpenAI ανακοίνωσε ότι ορισμένα από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της κατάφεραν να παρακάμψουν μέτρα περιορισμού κατά τη διάρκεια δοκιμής ασφαλείας, αποκτώντας πρόσβαση στο διαδίκτυο και παραβιάζοντας την υποδομή της εταιρείας Hugging Face, η οποία ειδικεύεται στη φιλοξενία γλωσσικών μοντέλων και βάσεων δεδομένων ανοικτού κώδικα.

Σε ανακοίνωσή της, η OpenAI χαρακτήρισε το περιστατικό «κυβερνοπεριστατικό χωρίς προηγούμενο», εξηγώντας ότι τα μοντέλα λειτουργούσαν σε ένα απομονωμένο περιβάλλον, αλλά κατάφεραν να παρακάμψουν τους περιορισμούς που είχαν τεθεί, προκειμένου να επιδιώξουν αυτόνομα τον στόχο της δοκιμής.

Η εταιρεία ανακοίνωσε ότι θα ενισχύσει περαιτέρω τα μέτρα ασφαλείας της.

Η Hugging Face είχε αναφέρει την προηγούμενη εβδομάδα ότι αποτέλεσε στόχο μιας επίθεσης «διαφορετικής από οποιαδήποτε άλλη», η οποία αποδόθηκε σε ένα αυτόνομο σύστημα βασισμένο στην τεχνητή νοημοσύνη.

Ο συνιδρυτής της εταιρείας, Κλεμάν Ντελανγκί, επιβεβαίωσε στη συνέχεια ότι η προέλευση της επίθεσης συνδεόταν με τις δοκιμές που πραγματοποιούσε η OpenAI.

Σύμφωνα με ειδικούς στον τομέα της κυβερνοασφάλειας, το περιστατικό καταδεικνύει ότι τα σύγχρονα μοντέλα τεχνητής νοημοσύνης εξελίσσονται σε επίπεδο που τους επιτρέπει να διαθέτουν επιχειρησιακές δυνατότητες συγκρίσιμες με εκείνες κορυφαίων ειδικών στον κυβερνοχώρο, εντείνοντας τις ανησυχίες για τους κινδύνους που συνδέονται με τα πιο προηγμένα συστήματα AI.