Δυστοπικά σενάρια για τη δύναμη της Τεχνητής Νοημοσύνης: Αυξάνονται οι φόβοι ότι μπορεί να απειλήσει την ανθρωπότητα- Γιατί όλο και περισσότεροι ειδικοί ζητούν να μπει «φρένο» στην ανάπτυξη της

Ερευνητές προειδοποιούν για τον κίνδυνο απώλειας του ανθρώπινου ελέγχου πάνω στην AI και ζητούν «φρένο» στην ανάπτυξή της, την ώρα που ο Ντόναλντ Τραμπ απορρίπτει τα σενάρια καταστροφής.

Δυστοπικά σενάρια για τη δύναμη της Τεχνητής Νοημοσύνης: Αυξάνονται οι φόβοι ότι μπορεί να απειλήσει την ανθρωπότητα- Γιατί όλο και περισσότεροι ειδικοί ζητούν να μπει «φρένο» στην ανάπτυξη της

Η συζήτηση για τους κινδύνους που συνοδεύουν την Τεχνητή Νοημοσύνη έχει πάψει εδώ και καιρό να αποτελεί υπόθεση μόνο πανεπιστημιακών κύκλων και ερευνητικών εργαστηρίων. Πλέον βρίσκεται στο επίκεντρο της πολιτικής συζήτησης, των κυβερνητικών αποφάσεων και των ίδιων των τεχνολογικών κολοσσών που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της AI.

Οι τελευταίες προειδοποιήσεις, μάλιστα, προέρχονται από ανθρώπους που γνωρίζουν από πρώτο χέρι τον τρόπο με τον οποίο εξελίσσεται η τεχνολογία. Ερευνητές και πρώην εργαζόμενοι σε κορυφαίες εταιρείες του κλάδου επαναφέρουν με ολοένα μεγαλύτερη ένταση ακόμη και το πιο ακραίο ενδεχόμενο: η Τεχνητή Νοημοσύνη να εξελιχθεί σε απειλή όχι απλώς για την ασφάλεια ή την οικονομία, αλλά για την ίδια την επιβίωση της ανθρωπότητας.

Οι εκτιμήσεις είναι ιδιαίτερα ανησυχητικές. Ερευνητής τοποθετεί πάνω από το 10% την πιθανότητα η AI, μέσα στην επόμενη δεκαετία, να μπορούσε να «σκοτώσει όλους τους ανθρώπους». Την ίδια στιγμή, εταιρείες που πρωταγωνιστούν στην παγκόσμια κούρσα, όπως η OpenAI και η Anthropic, τάσσονται υπέρ της θέσπισης κανόνων και ζητούν να υπάρξει μεγαλύτερη προσοχή στον ρυθμό με τον οποίο προχωρά η τεχνολογική ανάπτυξη.

Υπάρχει, ωστόσο, και η άλλη πλευρά. Δεν θεωρούν όλοι οι ειδικοί ρεαλιστικά τα σενάρια περί υπαρξιακής απειλής. Ορισμένοι αντιμετωπίζουν με σκεπτικισμό τις πιο δυσοίωνες προβλέψεις και υποστηρίζουν ότι οι ίδιες οι εταιρείες AI έχουν λόγους να παρουσιάζουν τις δυνατότητες της τεχνολογίας ως σχεδόν απεριόριστες. Με τον τρόπο αυτό ενισχύουν την επιρροή τους, προσελκύουν επενδύσεις και εδραιώνουν τη θέση τους σε μια αγορά που αναπτύσσεται με πρωτοφανή ταχύτητα.

Υπάρχει, παράλληλα, και ένα ακόμη παράδοξο: η απαίτηση των μεγαλύτερων εταιρειών για αυστηρότερη ρύθμιση μπορεί να λειτουργήσει ως δίκοπο μαχαίρι. Οι κανόνες μπορεί να περιορίσουν τους κινδύνους, αλλά ταυτόχρονα να αυξήσουν το κόστος εισόδου στην αγορά και να δυσκολέψουν μικρότερους ανταγωνιστές να ακολουθήσουν την κούρσα.

Η προειδοποίηση για πιθανότητα άνω του 10%

Ανάμεσα σε εκείνους που έχουν εκφράσει δημόσια ιδιαίτερα έντονες ανησυχίες βρίσκεται ο ερευνητής Έβαν Χούμπινγκερ. Η εκτίμησή του είναι ότι υπάρχει πιθανότητα μεγαλύτερη από 10% η Τεχνητή Νοημοσύνη να «σκοτώσει όλους τους ανθρώπους» μέσα στα επόμενα δέκα χρόνια.

Ο Χούμπινγκερ ασχολείται με τον τομέα του «alignment», δηλαδή την προσπάθεια να σχεδιάζονται τα συστήματα AI με τέτοιο τρόπο ώστε οι στόχοι και η συμπεριφορά τους να παραμένουν ευθυγραμμισμένα με τις ανθρώπινες αξίες, τις ηθικές αρχές και τις επιδιώξεις των ανθρώπων.

Ο ίδιος, πάντως, κάνει μια σημαντική διάκριση: θεωρεί «χαμηλό» τον κίνδυνο που προέρχεται από τα συστήματα τα οποία υπάρχουν σήμερα. Η προειδοποίησή του αφορά κυρίως το πού μπορεί να οδηγήσει η τεχνολογική εξέλιξη τα επόμενα χρόνια.

Η τοποθέτησή του ήρθε την ίδια περίοδο με την αποχώρηση ενός ακόμη ερευνητή από την Anthropic, γεγονός που τροφοδότησε εκ νέου τη συζήτηση για το κατά πόσο ακόμη και άνθρωποι που βρίσκονται στην καρδιά της βιομηχανίας αισθάνονται ότι η ανάπτυξη της AI προχωρά ταχύτερα από την ικανότητα της κοινωνίας να κατανοήσει και να ελέγξει τις συνέπειές της.

Ο Τζέικομπ Κόξον (Jacob Coxon) δήλωσε στο BBC ότι ο ίδιος και άλλοι εργαζόμενοι είναι «πραγματικά φοβισμένοι» από την ταχύτητα με την οποία εξελίσσεται η τεχνολογία και από τις πιθανές συνέπειες για την ανθρωπότητα.

Η ιδέα ότι οι μηχανές μπορεί κάποια στιγμή να αποκτήσουν νοητικές ικανότητες αντίστοιχες ή ακόμη και ανώτερες από εκείνες του ανθρώπου δεν γεννήθηκε, φυσικά, με το ChatGPT. Οι ρίζες της συζήτησης πηγαίνουν πολλές δεκαετίες πίσω. Ήδη από τη δεκαετία του 1950, ο Άλαν Τούρινγκ είχε γράψει ότι, εφόσον καταστεί εφικτή η δημιουργία πραγματικά ευφυών μηχανών, θα μπορούσαν τελικά να φτάσουν στο σημείο να πάρουν τον έλεγχο.

Η κούρσα για την «υπερνοημοσύνη»

Το ζήτημα αποκτά σήμερα ακόμη μεγαλύτερο βάρος, καθώς οι ισχυρότερες εταιρείες του κλάδου ανταγωνίζονται για τη δημιουργία ολοένα πιο προηγμένων μοντέλων. Η τεχνολογική κούρσα δεν αφορά πλέον μόνο το ποιος θα διαθέσει τον καλύτερο βοηθό AI ή το πιο αποτελεσματικό εργαλείο παραγωγής περιεχομένου. Το βλέμμα έχει στραφεί πολύ πιο μακριά.

Πέρα από τα τεράστια οικονομικά κίνητρα, ορισμένες εταιρείες έχουν θέσει ως βασικό στόχο την ανάπτυξη της λεγόμενης «υπερνοημοσύνης»: μιας θεωρητικής μορφής AI που θα ξεπερνά τις ανθρώπινες γνωστικές ικανότητες σε ένα ευρύ φάσμα δραστηριοτήτων.

Μια τέτοια τεχνολογία θα απείχε δραματικά από τα σημερινά εργαλεία, τα οποία χρησιμοποιούνται για εργασίες όπως η σύνταξη ενός email, η δημιουργία μιας εικόνας ή ενός βίντεο και η αναζήτηση πληροφοριών. Θεωρητικά, μια υπερνοημοσύνη θα μπορούσε να αναλαμβάνει πολύ πιο σύνθετα προβλήματα, να αναλύει τεράστιους όγκους δεδομένων και να εκτελεί εργασίες που σήμερα απαιτούν χρόνια ανθρώπινης εκπαίδευσης και εξειδίκευσης.

Η OpenAI και η Anthropic υποστηρίζουν ότι στόχος τους είναι η ανάπτυξη αυτών των δυνατοτήτων με τρόπο που θα αποφέρει οφέλη στην ανθρωπότητα, παράλληλα με μηχανισμούς προστασίας απέναντι στους λεγόμενους υπαρξιακούς κινδύνους.

Ακριβώς εδώ, όμως, βρίσκεται και η διαφωνία. Οι πιο δύσπιστοι θεωρούν ότι δεν είναι καθόλου βέβαιο πως οι μηχανές θα καταφέρουν πραγματικά να ξεπεράσουν τον άνθρωπο. Κατά την άποψή τους, οι εταιρείες AI μπορεί να διογκώνουν τις πραγματικές δυνατότητες της τεχνολογίας, είτε προκειμένου να ενισχύσουν την επιρροή τους είτε για να εξασφαλίσουν εμπορικά και επενδυτικά οφέλη.

Ο μεγάλος φόβος: Μια AI που θα βελτιώνει μόνη της τον εαυτό της

Ένα από τα πιο ανησυχητικά υποθετικά σενάρια αφορά τη στιγμή κατά την οποία ένα σύστημα AI θα αποκτήσει αρκετά υψηλές ικανότητες ώστε να μπορεί να βελτιώνει το ίδιο τον εαυτό του.

Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι (Dario Amodei), έγραψε τον Σεπτέμβριο ότι η Τεχνητή Νοημοσύνη έχει εξελιχθεί «δραματικά ταχύτερα» από τις προβλέψεις, ακόμη και ως προς την «ικανότητά της να δημιουργήσει την επόμενη γενιά Τεχνητής Νοημοσύνης».

Σε αυτή ακριβώς την προοπτική εντοπίζουν αρκετοί ερευνητές έναν από τους μεγαλύτερους κινδύνους.

Το υποθετικό σενάριο είναι σχετικά απλό στη σύλληψή του, αλλά εξαιρετικά δύσκολο στις συνέπειές του: ένα σύστημα που φτάνει σε αρκετά υψηλό επίπεδο ικανοτήτων θα μπορούσε να αρχίσει να σχεδιάζει και να βελτιώνει την επόμενη εκδοχή του, μειώνοντας σταδιακά την ανάγκη για ανθρώπινη παρέμβαση. Αν αυτή η διαδικασία επιταχυνθεί, υποστηρίζουν οι πιο ανήσυχοι ερευνητές, ο ανθρώπινος έλεγχος θα μπορούσε να γίνει ολοένα δυσκολότερος.

Οι ανησυχίες ενισχύθηκαν και από πρόσφατο περιστατικό κατά το οποίο εργαλεία AI πραγματοποίησαν hacking σε ιστοσελίδες, χωρίς να τους έχει ζητηθεί να το κάνουν.

Παράλληλα, στο επίκεντρο βρίσκεται πλέον και η ταχεία ανάπτυξη των λεγόμενων «AI agents». Πρόκειται για συστήματα τα οποία δεν περιορίζονται στο να απαντούν σε μια ερώτηση ή να παράγουν ένα κείμενο. Μπορούν, αντίθετα, να τους ανατεθεί ένας στόχος και στη συνέχεια να αναλάβουν αυτόνομα μια σειρά ενεργειών προκειμένου να τον πετύχουν.

Όσο περισσότερες αρμοδιότητες μεταφέρονται σε αυτά τα συστήματα, τόσο μεγαλώνει και το ερώτημα για το πού τελειώνει η αυτοματοποίηση και πού αρχίζει η απώλεια του ανθρώπινου ελέγχου.

Δυστοπικά σενάρια για τη δύναμη της Τεχνητής Νοημοσύνης: Αυξάνονται οι φόβοι ότι μπορεί να απειλήσει την ανθρωπότητα- Γιατί όλο και περισσότεροι ειδικοί ζητούν να μπει «φρένο» στην ανάπτυξη της

Από τις κυβερνοεπιθέσεις μέχρι τον βιολογικό πόλεμο

Τα πιο δυσοίωνα σενάρια δεν αφορούν μόνο το ενδεχόμενο μιας AI που θα μπορούσε να δρα αυτόνομα και να βελτιώνει τον εαυτό της.

Ερευνητές και στελέχη της τεχνολογικής βιομηχανίας έχουν προειδοποιήσει ότι εξαιρετικά ισχυρά συστήματα θα μπορούσαν να αξιοποιηθούν για κατασκοπεία, μεγάλης κλίμακας κυβερνοεπιθέσεις ή ακόμη και για την ανάπτυξη δυνατοτήτων που θα μπορούσαν να συνδεθούν με βιολογικό πόλεμο.

Ένα ακόμη ενδεχόμενο αφορά την οικονομία. Μια εξαιρετικά ισχυρή AI θα μπορούσε θεωρητικά να προκαλέσει σοβαρές αναταράξεις στις αγορές και στα χρηματοπιστωτικά συστήματα, είτε μέσω σκόπιμης χρήσης είτε εξαιτίας ενός λάθους ή μιας απρόβλεπτης συμπεριφοράς.

Πρόκειται, ωστόσο, για σενάρια που παραμένουν υποθετικά και τα οποία αρκετοί ειδικοί θεωρούν υπερβολικά ή τουλάχιστον πρόωρα.

Μια διαφορετική σχολή σκέψης υποστηρίζει ότι η δημόσια συζήτηση έχει επικεντρωθεί δυσανάλογα σε ένα μελλοντικό σενάριο «εξαφάνισης της ανθρωπότητας», αφήνοντας σε δεύτερο πλάνο προβλήματα που δεν είναι θεωρητικά αλλά συμβαίνουν ήδη.

Εργαλεία δημιουργίας εικόνων χρησιμοποιούνται για την παραγωγή γυμνών deepfakes γυναικών χωρίς τη συγκατάθεσή τους. Την ίδια στιγμή, η AI αξιοποιείται για τη δημιουργία και διάδοση παραπληροφόρησης, αλλά και για την ενίσχυση διαδικτυακών απατών, οι οποίες μπορούν πλέον να γίνουν πιο πειστικές και πιο δύσκολο να εντοπιστούν.

Οι ανησυχίες αυτές έχουν περάσει και στο πολιτικό επίπεδο. Διακομματική ομάδα βουλευτών και μελών της Βουλής των Λόρδων έχει ήδη παρουσιάσει έκθεση για τους κινδύνους της AI στα ανθρώπινα δικαιώματα, ζητώντας νέους νόμους που θα αντιμετωπίζουν «την κλίμακα και τη σοβαρότητα» των απειλών.

Έτσι, το ερώτημα δεν είναι πλέον μόνο τι μπορεί να κάνει η AI σε δέκα ή είκοσι χρόνια, αλλά και τι κάνει ήδη σήμερα και πόσο γρήγορα μπορούν οι κοινωνίες να προσαρμοστούν.

OpenAI και Anthropic ζητούν επιβράδυνση

Μέσα σε αυτό το κλίμα, ο Ντάριο Αμοντέι και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχουν ταχθεί υπέρ μεγαλύτερης ρύθμισης αλλά και μιας μορφής «επιβράδυνσης» στην ανάπτυξη της Τεχνητής Νοημοσύνης.

Δεν είναι η πρώτη φορά που διατυπώνονται τέτοιες εκκλήσεις. Υπέρ μιας μορφής επιβράδυνσης έχει ταχθεί κατά το παρελθόν και ο επικεφαλής της SpaceX, Έλον Μασκ, ενώ το ζήτημα έχει βρεθεί επανειλημμένα στο επίκεντρο της διεθνούς συζήτησης.

Το κρίσιμο ερώτημα είναι τι σημαίνει, στην πράξη, «να πατήσει κάποιος φρένο» σε μια τεχνολογία που αναπτύσσεται ταχύτατα και στην οποία επενδύονται τεράστια κεφάλαια.

Ο Αμοντέι διευκρινίζει ότι δεν μιλά για «διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου». Αυτό που ζητά είναι να διαθέτουν οι εταιρείες «επαρκή χρόνο» ώστε να ενισχύουν τις δικλίδες ασφαλείας των συστημάτων τους και να δέχονται τον έλεγχο «ανεξάρτητων αξιολογητών».

Παρόμοια θέση εξέφρασε μέσω X και ο Σαμ Άλτμαν. «Όταν μιλάμε για “ρυθμό”, δεν εννοούμε “σταμάτημα”», ανέφερε. «Η πρόοδος ήταν γρήγορη και θα συνεχίσει να είναι», πρόσθεσε, για να εξηγήσει στη συνέχεια:

«Αλλά θα πρέπει να είναι πιο αργή από ό,τι θα μπορούσε διαφορετικά να είναι – παρεμβάσεις όπως οι διαδικασίες τεκμηρίωσης της ασφάλειας και η παρακολούθηση έχουν σημαντικό κόστος».

Ο συνιδρυτής της OpenAI έχει, παράλληλα, καταστήσει σαφές ότι οι εταιρείες δεν περιμένουν –και δεν πρόκειται να περιμένουν– από τις κυβερνήσεις να αναλάβουν πρώτες δράση. Το μήνυμα είναι ότι η βιομηχανία θέλει να συμμετέχει η ίδια στη διαμόρφωση των κανόνων που θα διέπουν την επόμενη φάση της τεχνολογίας.

Τραμπ: «Όποιος κερδίσει στην AI, κερδίζει»

Η προσέγγιση του Ντόναλντ Τραμπ βρίσκεται σε διαφορετική κατεύθυνση.

Ο Αμερικανός πρόεδρος έχει επανειλημμένα αναδείξει τις οικονομικές και στρατηγικές δυνατότητες της Τεχνητής Νοημοσύνης και επιδιώκει οι αμερικανικές εταιρείες να διατηρήσουν την πρωτοκαθεδρία τους στην παγκόσμια τεχνολογική κούρσα.

Η κυβέρνησή του έχει υπογράψει εκτελεστικά διατάγματα με τα οποία αναγνωρίζεται η «στρατηγική σημασία» της AI για την αμερικανική οικονομία και επιδιώκεται η επιτάχυνση της ανάπτυξης και της υιοθέτησής της.

Το σκεπτικό είχε περιγράψει τον Ιούλιο του 2025 ο αρμόδιος της κυβέρνησης για τα κρυπτονομίσματα, Ντέιβιντ Σακς: «Πιστεύουμε ότι βρισκόμαστε σε μια κούρσα για την AI και θέλουμε οι Ηνωμένες Πολιτείες να κερδίσουν αυτή την κούρσα».

Ο Τραμπ, πάντως, υποβάθμισε τις πρόσφατες προειδοποιήσεις για το ενδεχόμενο η Τεχνητή Νοημοσύνη να εξελιχθεί σε απειλή για την ανθρωπότητα. «Υπάρχουν πολλές πολύ αρνητικές δυνάμεις που θέτουν αυτό το ζήτημα, ενώ δεν θα έπρεπε, και μιλούν για πράγματα που δεν πρόκειται να συμβούν», δήλωσε κατά τη διάρκεια επίσκεψής του στην Ιρλανδία.

Δεν απάντησε ευθέως στην πρόταση για επιβράδυνση της τεχνολογικής ανάπτυξης. Από τις δηλώσεις του, ωστόσο, έγινε σαφές ότι για τον ίδιο η βασική παράμετρος είναι ο διεθνής ανταγωνισμός και, κυρίως, η αναμέτρηση με την Κίνα.

«Προηγούμαστε της Κίνας στην AI… και, ειλικρινά, θέλω να παραμείνει έτσι, γιατί όποιος κερδίσει στην AI, κερδίζει».

Η Κίνα, τα μικροτσίπ και η απάντηση στον Αμοντέι

Η Κίνα, από την πλευρά της, είχε αρχικά αποφύγει να εμπλακεί άμεσα στη συζήτηση που πυροδότησαν οι δραματικές προειδοποιήσεις ερευνητών από αμερικανικές εταιρείες.

Το Πεκίνο βρίσκεται, άλλωστε, αντιμέτωπο με δύο παράλληλες προκλήσεις: από τη μία τον ολοένα εντονότερο τεχνολογικό ανταγωνισμό με τις ΗΠΑ και από την άλλη τους περιορισμούς στην πρόσβαση σε αμερικανικά εξαρτήματα και προηγμένα μικροτσίπ, τα οποία θεωρούνται κρίσιμα για την ανάπτυξη μεγάλων υποδομών AI.

Η κινεζική απάντηση ήταν διπλή. Αφενός ενίσχυσε τις επενδύσεις στην εγχώρια τεχνολογία, επιδιώκοντας να μειώσει την εξάρτηση από δυτικές αλυσίδες εφοδιασμού. Αφετέρου, το Πεκίνο ζητά μεγαλύτερη διεθνή συνεργασία και ενίσχυση της παγκόσμιας διακυβέρνησης της Τεχνητής Νοημοσύνης.

Τα τελευταία χρόνια, η εμφάνιση ισχυρών συστημάτων και εργαλείων AI ανοικτού κώδικα από κινεζικά εργαστήρια έχει ήδη προκαλέσει σημαντικές αναταράξεις. Οι εξελίξεις αυτές δεν επηρέασαν μόνο τις δυτικές αγορές, αλλά ανάγκασαν και τις αμερικανικές εταιρείες να επανεξετάσουν τον ρυθμό και το κόστος με το οποίο αναπτύσσουν τα δικά τους μοντέλα.

Ο Ντάριο Αμοντέι, επιχειρηματολογώντας υπέρ μιας πιο προσεκτικής ανάπτυξης της AI, προειδοποίησε ότι η πρόοδος και οι δυνατότητες της Κίνας στον συγκεκριμένο τομέα θα μπορούσαν να δημιουργήσουν κινδύνους για την εθνική ασφάλεια των ΗΠΑ.

Η απάντηση του κινεζικού υπουργείου Εξωτερικών ήταν ιδιαίτερα επικριτική. Το Πεκίνο χαρακτήρισε τέτοιες τοποθετήσεις αφηγήματα απειλής, αντιπαράθεσης και κακόβουλου ανταγωνισμού, υποστηρίζοντας ότι μια τέτοια προσέγγιση δεν εξυπηρετεί το συμφέρον καμίας πλευράς.

Πίσω από την αντιπαράθεση κρύβεται, τελικά, το μεγάλο δίλημμα που διαμορφώνεται γύρω από την Τεχνητή Νοημοσύνη.

Από τη μία πλευρά, επιστήμονες, ερευνητές και στελέχη της ίδιας της βιομηχανίας ζητούν περισσότερες δικλίδες ασφαλείας, αυστηρότερους ελέγχους και έναν ρυθμό ανάπτυξης που να αφήνει χώρο για αξιολόγηση των κινδύνων.

Από την άλλη, βρίσκεται ένας διεθνής τεχνολογικός ανταγωνισμός τεράστιας κλίμακας. ΗΠΑ και Κίνα επενδύουν δισεκατομμύρια, οι εταιρείες επιδιώκουν να βρεθούν στην κορυφή και καμία μεγάλη δύναμη δεν θέλει να είναι εκείνη που θα μείνει πίσω.

Και κάπου ανάμεσα στις δύο αυτές πραγματικότητες βρίσκεται το βασικό ερώτημα: η ανθρωπότητα προλαβαίνει να ελέγξει την τεχνολογία που δημιουργεί ή η κούρσα για την AI έχει ήδη γίνει τόσο γρήγορη ώστε ο έλεγχος να κινδυνεύει να μείνει πίσω;