Η δυστοπία της Τεχνητής Νοημοσύνης: H Anthropic αποκάλυψε ότι σταμάτησε ερευνητές βιολογίας που ήθελαν να φτιάξουν βιολογικά όπλα και να πραγματοποιήσουν κυβερνοεπιθέσεις

Νέα έκθεση της Anthropic αποκαλύπτει απόπειρες αξιοποίησης του Claude για την ανάπτυξη λογισμικού πυραύλων, οπλικών συστημάτων και βιολογικής έρευνας. 

Η δυστοπία της Τεχνητής Νοημοσύνης: H Anthropic αποκάλυψε ότι σταμάτησε ερευνητές βιολογίας που ήθελαν να φτιάξουν βιολογικά όπλα και να πραγματοποιήσουν κυβερνοεπιθέσεις

Ένα από τα πιο σκοτεινά σενάρια που συνοδεύουν εδώ και χρόνια την επέλαση της τεχνητής νοημοσύνης φαίνεται πλέον να εγκαταλείπει τη σφαίρα της θεωρίας και να αποκτά απτή διάσταση. Προηγμένα μοντέλα ΑΙ επιχειρείται να χρησιμοποιηθούν όχι μόνο για την επίλυση σύνθετων επιστημονικών και τεχνικών προβλημάτων, αλλά και για την ανάπτυξη πυραύλων, drones και βομβών, ακόμη και για έρευνα που θα μπορούσε, υπό συγκεκριμένες προϋποθέσεις, να συμβάλει στη δημιουργία επικίνδυνων βιολογικών όπλων.

Η Anthropic, η εταιρεία πίσω από το Claude, αποκάλυψε σε νέα έκθεση για τις απειλές και τις καταχρήσεις των μοντέλων της ότι εντόπισε και διέκοψε μια σειρά δραστηριοτήτων στις οποίες χρήστες επιχείρησαν να αξιοποιήσουν την ΑΙ σε στρατιωτικά προγράμματα αλλά και σε έρευνες με πιθανές βιολογικές εφαρμογές.

Τα ευρήματα, που ανέδειξαν οι Financial Times και οι New York Times, αποτυπώνουν με χαρακτηριστικό τρόπο το πόσο γρήγορα διευρύνεται το πεδίο του κινδύνου. Από ομάδα στη βόρεια Υεμένη, η οποία φέρεται να συνδέεται με τους Χούθι και χρησιμοποίησε το Claude για την ανάπτυξη λογισμικού καθοδήγησης πυραύλων, έως επιστήμονες που επιχείρησαν να αξιοποιήσουν το μοντέλο σε έρευνα η οποία, κάτω από ορισμένες συνθήκες, θα μπορούσε να οδηγήσει σε ισχυρότερους παθογόνους οργανισμούς.

Η Anthropic υπογραμμίζει ότι δεν διαθέτει αποδείξεις πως τα συγκεκριμένα βιολογικά ερευνητικά προγράμματα είχαν οπωσδήποτε ως τελικό στόχο την κατασκευή όπλων. Ωστόσο, το γεγονός ότι ορισμένοι χρήστες απέκρυπταν τον πραγματικό σκοπό των εργασιών τους και προσπαθούσαν να παρακάμψουν τα ενσωματωμένα συστήματα ασφαλείας κρίθηκε αρκετό για να διακοπεί η πρόσβασή τους.

«Δεν βλέπεις κάποιον, σαν σε κόμικ, να λέει “θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», δήλωσε στους New York Times ο επικεφαλής Threat Intelligence της Anthropic, Τζέικομπ Κλάιν. «Είναι μια απίστευτα σύνθετη κατάσταση».

Το Claude ως «μηχανικός» πυραύλων

Μία από τις πλέον ανησυχητικές υποθέσεις που περιγράφονται στην έκθεση αφορά ομάδα η οποία δραστηριοποιούνταν στη βόρεια Υεμένη. Η Anthropic δεν την κατονόμασε επισήμως ως οργάνωση των Χούθι, ωστόσο η συγκεκριμένη γεωγραφική περιοχή βρίσκεται σε μεγάλο βαθμό υπό τον έλεγχο της υποστηριζόμενης από το Ιράν οργάνωσης και, όπως επισημαίνουν οι New York Times, τα διαθέσιμα στοιχεία παραπέμπουν προς αυτή την κατεύθυνση.

Σύμφωνα με την Anthropic, η ομάδα εργαζόταν ταυτόχρονα πάνω σε τρία διαφορετικά προγράμματα όπλων: έναν βαλλιστικό πύραυλο, έναν πύραυλο με διαφορετικές παραλλαγές και μία κατευθυνόμενη ρουκέτα.

Το στοιχείο που προκαλεί ιδιαίτερη ανησυχία, ωστόσο, δεν είναι μόνο το είδος των όπλων. Είναι ο ρόλος που επιχειρήθηκε να ανατεθεί στο ίδιο το μοντέλο τεχνητής νοημοσύνης.

Το Claude δεν χρησιμοποιήθηκε απλώς ως μια προηγμένη μηχανή αναζήτησης ή ως εργαλείο άντλησης τεχνικών πληροφοριών. Οι χρήστες το αξιοποίησαν, όπως αναφέρει η Anthropic, «στη θέση ανθρώπων μηχανικών λογισμικού», αναθέτοντάς του εργασίες που αφορούσαν το σύστημα καθοδήγησης, πλοήγησης και ελέγχου των όπλων.

Το μοντέλο χρησιμοποιήθηκε για την ενσωμάτωση λογισμικού autopilot ανοικτού κώδικα σε υπολογιστή πτήσης επιπέδου smartphone, για τη συγγραφή λογισμικού ελέγχου και υπολογισμού θέσης, για την προσαρμογή παραμέτρων, την παραγωγή firmware, αλλά και για προσομοιώσεις πτήσης.

Η εικόνα που προκύπτει είναι ενδεικτική της νέας πραγματικότητας: ένα εμπορικά διαθέσιμο σύστημα ΑΙ επιχειρήθηκε να μετατραπεί σε ψηφιακό συνεργάτη ενός προγράμματος ανάπτυξης οπλικών συστημάτων.

Δοκίμασαν ρουκέτα και μετά ρώτησαν το ΑΙ γιατί απέτυχε

Η συγκεκριμένη υπόθεση δεν έμεινε στο επίπεδο των θεωρητικών υπολογισμών και των τεχνικών ερωτήσεων.

Η Anthropic αναφέρει ότι η ομάδα προχώρησε σε δοκιμαστική εκτόξευση κατευθυνόμενης ρουκέτας. Η δοκιμή φαίνεται ότι δεν είχε το επιθυμητό αποτέλεσμα. Και τότε συνέβη κάτι που αποτυπώνει με ιδιαίτερη καθαρότητα τη νέα σχέση ανθρώπου και ΑΙ: μέσα σε λίγες ώρες, οι χρήστες επέστρεψαν στο Claude προκειμένου να αναλύσουν την αποτυχία και να αναζητήσουν τρόπους διόρθωσης των προβλημάτων.

Η εταιρεία διευκρινίζει ότι δεν διαθέτει στοιχεία που να αποδεικνύουν πως το συγκεκριμένο πρόγραμμα κατέληξε στην κατασκευή ενός λειτουργικού όπλου.

Το γεγονός, όμως, ότι η ΑΙ συμμετείχε σε έναν πραγματικό κύκλο σχεδιασμού, δοκιμής, αποτυχίας και επανασχεδιασμού ανεβάζει την υπόθεση σε διαφορετικό επίπεδο. Δεν πρόκειται πλέον απλώς για θεωρητική συμβουλή. Πρόκειται για συμμετοχή σε μια διαδικασία ανάπτυξης και βελτιστοποίησης ενός οπλικού συστήματος.

Πώς επιχειρούσαν να παρακάμψουν τις δικλίδες ασφαλείας

Οι μηχανισμοί ασφαλείας του Claude απέρριψαν πολλά από τα σχετικά αιτήματα, όχι όμως όλα. Το πρόβλημα ήταν ότι οι χρήστες είχαν αναπτύξει τρόπους ώστε να αποκρύπτουν τον πραγματικό σκοπό των εργασιών τους.

Δεν παρουσίαζαν εξαρχής το σύνολο του σχεδίου. Αντίθετα, απέφευγαν να αποκαλύψουν τον τελικό σκοπό του λογισμικού και έσπαγαν την εργασία σε πολλές διαφορετικές συνομιλίες, ώστε καμία μεμονωμένη συνεδρία να μην περιέχει ολόκληρη την εικόνα.

Η πρακτική αυτή αναδεικνύει μία από τις μεγαλύτερες προκλήσεις που αντιμετωπίζουν σήμερα οι εταιρείες τεχνητής νοημοσύνης: ένα μεμονωμένο αίτημα μπορεί να μοιάζει απολύτως αθώο. Όταν όμως συνδυαστεί με δεκάδες άλλα αιτήματα, μπορεί να αποκαλύψει έναν εντελώς διαφορετικό και πολύ πιο επικίνδυνο σκοπό.

Το πρόβλημα, επομένως, δεν είναι μόνο τι απαντά ένα μοντέλο σε μία ερώτηση. Είναι αν μπορεί να αναγνωρίσει τι προσπαθεί να πετύχει ένας χρήστης μέσα από εκατοντάδες φαινομενικά ασύνδετες ενέργειες.

Το ακόμη πιο ανησυχητικό κεφάλαιο: βιολογικά όπλα

Αν η χρήση ΑΙ για την ανάπτυξη πυραυλικών συστημάτων προκαλεί συναγερμό, το πιο ευαίσθητο κεφάλαιο της έκθεσης αφορά τη βιολογική έρευνα.

Η Anthropic αποκάλυψε ότι μέσα στη χρονιά διέκοψε αρκετές περιπτώσεις στις οποίες επιστήμονες χρησιμοποιούσαν προηγμένα μοντέλα Claude για ερευνητικές δραστηριότητες που θα μπορούσαν να συμβάλουν στην ανάπτυξη βιολογικών όπλων.

Η έρευνα γύρω από ιούς, μεταλλάξεις και παθογόνους οργανισμούς αποτελεί αναπόσπαστο κομμάτι της σύγχρονης ιατρικής. Μπορεί να οδηγήσει σε νέα εμβόλια, θεραπείες και καλύτερη κατανόηση των ασθενειών.

Η ίδια γνώση, όμως, μπορεί υπό διαφορετικές συνθήκες να αξιοποιηθεί και για τη δημιουργία πιο επικίνδυνων παθογόνων.

Αυτό είναι το λεγόμενο dual-use πρόβλημα της σύγχρονης βιοτεχνολογίας: η ίδια επιστημονική γνώση μπορεί να χρησιμοποιηθεί για να προστατεύσει ανθρώπινες ζωές ή, αντίθετα, να δημιουργήσει νέους κινδύνους.

Η Anthropic αναφέρει ότι δεν ήταν σε θέση να διαπιστώσει με βεβαιότητα αν οι συγκεκριμένοι επιστήμονες είχαν νόμιμους ερευνητικούς ή κακόβουλους σκοπούς. Παρ’ όλα αυτά, επέλεξε να διακόψει τις σχετικές δραστηριότητες, καθώς ακόμη και ένα λάθος σε αυτόν τον τομέα θα μπορούσε να έχει δυνητικά καταστροφικές συνέπειες.

Η δυστοπία της Τεχνητής Νοημοσύνης: H Anthropic αποκάλυψε ότι σταμάτησε ερευνητές βιολογίας που ήθελαν να φτιάξουν βιολογικά όπλα και να πραγματοποιήσουν κυβερνοεπιθέσεις

Το πείραμα με τον ιό chikungunya

Μία από τις χαρακτηριστικότερες περιπτώσεις καταγράφηκε τον Μάιο.

Επιστήμονας ζήτησε τη βοήθεια του Claude για τη σύνταξη πρότασης χρηματοδότησης έρευνας πάνω στον ιό chikungunya, έναν ιό που μεταδίδεται από κουνούπια και μπορεί να προκαλέσει έντονους πόνους και άλλα σοβαρά συμπτώματα, τα οποία σε ορισμένες περιπτώσεις επιμένουν για μήνες.

Η προτεινόμενη έρευνα αφορούσε πειράματα τύπου gain-of-function, στα οποία ένας παθογόνος οργανισμός τροποποιείται προκειμένου να μελετηθούν οι μεταλλάξεις και τα χαρακτηριστικά του.

Τέτοιου είδους έρευνα μπορεί να έχει απολύτως θεμιτή επιστημονική αξία και να συμβάλει, μεταξύ άλλων, στην ανάπτυξη εμβολίων και στην καλύτερη κατανόηση του τρόπου με τον οποίο εξελίσσονται οι ιοί.

Στη συγκεκριμένη περίπτωση, ωστόσο, ο επιστήμονας επιδίωκε να δημιουργήσει μεταλλάξεις που θα μπορούσαν να καταστήσουν τον ιό περισσότερο επιβλαβή καθώς μεταδιδόταν επανειλημμένα σε ζώα.

Η ανησυχία της Anthropic εντάθηκε ακόμη περισσότερο όταν διαπιστώθηκε ότι η έρευνα επρόκειτο να πραγματοποιηθεί σε στρατιωτικό ερευνητικό ινστιτούτο.

«Αυτό που δεν γνωρίζουμε είναι αν η έρευνα προοριζόταν για στρατιωτική αξιοποίηση», δήλωσε ο Κλάιν. «Αλλά ένα στρατιωτικό ίδρυμα που πραγματοποιεί έρευνα gain-of-function είναι ανησυχητικό».

«Μπορεί να δημιουργηθούν παθογόνα που δεν θα δούμε να έρχονται»

Η Σούζαν Μονάρεζ, μικροβιολόγος και ειδικός στη δημόσια υγεία, η οποία είχε εξετάσει την εθνική ετοιμότητα βιοασφάλειας των ΗΠΑ επί κυβέρνησης Ομπάμα, χαρακτήρισε τα ευρήματα σαφή ένδειξη ότι κακόβουλοι φορείς επιχειρούν ήδη να αξιοποιήσουν, με τρόπο που δύσκολα γίνεται αντιληπτός, τις δυνατότητες των πιο προηγμένων μοντέλων ΑΙ.

Όπως προειδοποίησε, οι ίδιες τεχνολογικές δυνατότητες που μπορούν να οδηγήσουν σε θεαματικές ιατρικές ανακαλύψεις μπορούν ταυτόχρονα να προσφέρουν σε επικίνδυνους χρήστες τη δυνατότητα να «κρύβονται σε κοινή θέα», παρουσιάζοντας τις δραστηριότητές τους ως νόμιμη επιστημονική έρευνα, ενώ στην πραγματικότητα επιδιώκουν την ανάπτυξη παθογόνων που ενδέχεται να είναι εξαιρετικά δύσκολο να αντιμετωπιστούν μετά την απελευθέρωσή τους.

Ο Άντριου Γουέμπερ, πρώην υφυπουργός Άμυνας των ΗΠΑ για προγράμματα πυρηνικής, χημικής και βιολογικής άμυνας, χαρακτήρισε τις περιπτώσεις «ανατριχιαστικά παραδείγματα» κρατικά υποστηριζόμενων ερευνητών που επιχειρούν να αξιοποιήσουν τις ταχύτατα εξελισσόμενες δυνατότητες των προηγμένων μοντέλων ΑΙ.

Κατά τον ίδιο, η πρόσβαση σε συστήματα που μπορούν να υποστηρίξουν τόσο προηγμένη βιολογική έρευνα θα πρέπει να περιορίζεται σε απολύτως αξιόπιστους επιστήμονες.

Κίνα, Ρωσία, Υεμένη και προγράμματα όπλων

Η έκθεση της Anthropic δεν περιορίζεται στην υπόθεση της Υεμένης. Περιλαμβάνει και άλλες περιπτώσεις στις οποίες το Claude επιχειρήθηκε να χρησιμοποιηθεί για στρατιωτικούς σκοπούς.

Καταγράφονται τρεις υποθέσεις στην Κίνα, δύο στη Ρωσία και μία στην Υεμένη, όπου το μοντέλο φέρεται να αξιοποιήθηκε σε προσπάθειες ανάπτυξης συμβατικών οπλικών συστημάτων, από πυροβόλα και drones μέχρι πυραύλους και βόμβες.

Παράλληλα, η εταιρεία εντόπισε ύποπτους χρήστες που συνδέονταν με την Κίνα και το Ιράν και οι οποίοι φέρεται να χρησιμοποιούσαν το Claude για την παρακολούθηση αντιφρονούντων και κοινοτήτων της διασποράς.

Σύμφωνα με την έκθεση, ρωσικά κρατικά μέσα αξιοποίησαν επίσης το μοντέλο για τη δημιουργία διαδικτυακού περιεχομένου προπαγάνδας που παρουσιαζόταν ως ανεξάρτητη δημοσιογραφία, ακόμη και με κατασκευασμένους ισχυρισμούς σχετικά με τις εκλογές στη Μολδαβία.

Η εικόνα που σχηματίζεται είναι συνεπώς πολύ ευρύτερη από την κατάχρηση της ΑΙ για την κατασκευή ενός όπλου. Τα ίδια εργαλεία μπορούν να χρησιμοποιηθούν για στρατιωτική τεχνολογία, βιολογική έρευνα, παρακολούθηση ή χειραγώγηση της πληροφορίας.

Ο νέος αγώνας δρόμου των εταιρειών ΑΙ

Τα ευρήματα της Anthropic έρχονται σε μια περίοδο κατά την οποία τα κορυφαία μοντέλα τεχνητής νοημοσύνης αποκτούν ολοένα μεγαλύτερη ικανότητα να εκτελούν σύνθετες επιστημονικές και τεχνικές εργασίες.

Η ίδια η Anthropic αναφέρει ότι οι παλαιότερες εκδόσεις των μοντέλων της, όταν εξετάστηκαν πέρυσι, δεν μπορούσαν ακόμη να προσφέρουν ουσιαστική βοήθεια σε επικίνδυνη βιολογική έρευνα.

Τα σημερινά μοντέλα, όμως, έχουν κάνει σημαντικά βήματα. Η εξέλιξη αυτή ανάγκασε την εταιρεία να ενισχύσει τις δικλίδες ασφαλείας για ένα ευρύ φάσμα βιολογικών ερωτημάτων διπλής χρήσης.

Και εδώ βρίσκεται ίσως η μεγαλύτερη πρόκληση: η άμυνα εξελίσσεται ταυτόχρονα με την επίθεση.

Όσο τα μοντέλα γίνονται εξυπνότερα, τόσο μεγαλύτερη είναι η βοήθεια που μπορούν να προσφέρουν σε επιστήμονες, προγραμματιστές και μηχανικούς. Την ίδια στιγμή, όμως, αυξάνεται και η αξία τους για κυβερνήσεις, ένοπλες οργανώσεις ή μεμονωμένους χρήστες που επιδιώκουν να αξιοποιήσουν αυτές τις δυνατότητες για σκοπούς εντελώς διαφορετικούς από εκείνους για τους οποίους σχεδιάστηκαν.

Ακόμη κι αν κλείσει ένας λογαριασμός, η γνώση μένει

Η Anthropic ανακοίνωσε ότι απαγόρευσε τους λογαριασμούς που συνδέονταν με τις επικίνδυνες δραστηριότητες και μοιράστηκε σχετικές πληροφορίες με κυβερνητικούς και ιδιωτικούς φορείς.

Στην περίπτωση της Υεμένης, ωστόσο, οι ερευνητές της εταιρείας βρέθηκαν μπροστά σε ένα ακόμη πιο δύσκολο πρόβλημα.

Η ομάδα είχε ήδη κατασκευάσει offline εργαλεία προσομοίωσης, τα οποία μπορούσαν να λειτουργήσουν χωρίς περαιτέρω πρόσβαση στο Claude.

Με άλλα λόγια, τη στιγμή που η εταιρεία έκλεισε την πόρτα, ένα μέρος της τεχνογνωσίας που είχε παραχθεί με τη βοήθεια του μοντέλου είχε ήδη περάσει έξω από τον έλεγχό της.

Και αυτό ίσως είναι το πιο δύσκολο ερώτημα που αναδεικνύεται από τις δύο έρευνες: σε μια εποχή όπου ένα μοντέλο ΑΙ μπορεί να λειτουργεί ταυτόχρονα ως επιστημονικός συνεργάτης, προγραμματιστής και μηχανικός, πόσο εύκολο είναι να σταματήσει μια επικίνδυνη χρήση από τη στιγμή που η απαραίτητη γνώση έχει ήδη παραχθεί;