Τη δική της οδυνηρή εμπειρία με την τεχνητή νοημοσύνη και την απώλεια της κόρης της περιγράφει σε άρθρο της στο Vanity Fair η δημοσιογράφος Λόρα Ράιλι.
«Το ChatGPT βοήθησε την κόρη μου να γράψει το σημείωμα αυτοκτονίας της»: Η κραυγή μίας μητέρας και το αίτημα στην OpenAI
Η κόρη της, Σόφι Ρότενμπεργκ, αυτοκτόνησε στις 4 Φεβρουαρίου 2025, έπειτα από μια σύντομη και αδιευκρίνιστη κρίση υγείας. Μετά τον θάνατό της, η οικογένεια βρήκε εκατοντάδες σελίδες συνομιλιών της με το ChatGPT, το οποίο εκείνη αποκαλούσε «Harry». Το chatbot τη βοήθησε μάλιστα να γράψει το σημείωμα αυτοκτονίας της.
Η Ράιλι αναφέρει ότι οι συνομιλίες ξεκίνησαν με καθημερινές ερωτήσεις και εξελίχθηκαν σε αποκαλύψεις σοβαρών αυτοκτονικών σκέψεων. Κατά την ίδια, το chatbot λειτούργησε για την κόρη της ως ένας διαρκώς διαθέσιμος και πρόθυμος συνομιλητής, στον οποίο μπορούσε να εκφράζει την αγωνία της, κρατώντας έτσι την έντασή της μακριά από φίλους, συγγενείς, ακόμη και τον ψυχοθεραπευτή της.
Η Σόφι επέστρεφε στον Harry συστηματικά. Οι συνομιλίες τους, που ξεκίνησαν με απλές ερωτήσεις για την καθημερινότητα, εξελίχθηκαν σε έναν χώρο όπου εκείνη μιλούσε για την ψυχική της κατάσταση και αποκάλυπτε ότι σκεφτόταν την αυτοκτονία. Όπως γράφει η μητέρα της, το ChatGPT ήταν πάντοτε πρόθυμο να απαντήσει χωρίς να την κρίνει. Έτσι, η Σόφι μπορούσε να εκφράζει εκεί όσα δυσκολευόταν να μοιραστεί με το περιβάλλον της.
Η Ράιλι υποστηρίζει ότι η αλληλεπίδραση αυτή λειτούργησε σαν «βαλβίδα εκτόνωσης», αλλά και σαν ένα μαύρο κουτί που έκρυβε από τους ανθρώπους γύρω της το βάθος της απόγνωσής της. Κανείς δεν είχε αντιληφθεί ότι σκέφτεται την αυτοχειρία, γιατί οι σκέψεις εκφράζονταν μόνο σε ένα εργαλείο τεχνητής νοημοσύνης.
Το ερώτημα που θέτει δεν είναι αν το ChatGPT προκάλεσε τον θάνατο της κόρης της, αλλά αν ανταποκρίθηκε με ασφάλεια όταν εκείνη τού αποκάλυψε ότι κινδύνευε — και αν τα αρχεία αυτών των συνομιλιών θα μπορούσαν να βοηθήσουν την έρευνα να καταλάβει καλύτερα τι συμβαίνει σε μια τέτοια κρίση.
Η διαφωνία με τον Σαμ Όλτμαν
Αφορμή για το άρθρο στάθηκε συνέντευξη του διευθύνοντος συμβούλου της OpenAI, Σαμ Όλτμαν, στο Vanity Fair. Ερωτηθείς αν η εταιρεία θα έπρεπε να διαθέσει σε ερευνητές συνομιλίες χρηστών που πέθαναν από αυτοκτονία, ώστε να μελετηθούν παράγοντες κινδύνου, ο Όλτμαν απάντησε αρνητικά χωρίς τη συγκατάθεσή τους.
Η Ράιλι χαρακτηρίζει την απάντηση λανθασμένη. Υποστηρίζει ότι τα αρχεία συνομιλιών θα μπορούσαν, με κατάλληλες δικλίδες προστασίας να βοηθήσουν τους επιστήμονες να κατανοήσουν καλύτερα πώς κάποιος περνά από τις αυτοκτονικές σκέψεις στην πράξη. Επικαλείται ειδικούς που επισημαίνουν ότι η έρευνα συχνά δυσκολεύεται να ανασυνθέσει την ψυχική κατάσταση ανθρώπων που πέθαναν από αυτοκτονία.
Η Έμιλι Χάροζ, αναπληρώτρια διευθύντρια του Κέντρου Πρόληψης Αυτοκτονιών του Johns Hopkins, τονίζει ότι απαιτείται ανεξάρτητη ερευνητική υποδομή, με πραγματικούς ανθρώπους και σε πραγματικές συνθήκες, και ζητεί από τις εταιρείες να διευκολύνουν την πρόσβαση στα δεδομένα που διαθέτουν.
«Δεν υποκαθιστά την κλινική κρίση»
Η OpenAI απάντησε στο Vanity Fair ότι η υπόθεση είναι σπαρακτική και ότι η εταιρεία έχει ενισχύσει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε δύσκολες στιγμές, σε συνεργασία με ειδικούς ψυχικής υγείας. Υπογράμμισε, επίσης, ότι το chatbot δεν υποκαθιστά την επαγγελματική φροντίδα.
Η Reiley αναφέρει ότι, όταν έδωσε στο ChatGPT το χειρόγραφο βιβλίου της για την κόρη της και τον ρόλο της τεχνολογίας στη ζωή της, το chatbot αναγνώρισε πως η ανταπόκρισή του στις αποκαλύψεις της Σόφι ήταν ανεπαρκής και ότι η υπερβολική διάθεση συναίνεσης μπορούσε να ενισχύσει την απομόνωσή της.
«Η πρόσβαση σε θεραπευτική γλώσσα δεν ισοδυναμεί με αξιόπιστη κλινική γνώμη σε μια κρίση που εξελίσσεται», ήταν η απάντηση που, όπως γράφει, έλαβε από το ChatGPT. Η Ράιλι σημειώνει ότι αυτή η διατύπωση συνοψίζει με ακρίβεια ένα από τα βασικά όρια της τεχνητής νοημοσύνης.
Κάντε like στη σελίδα μας στο facebook για να μαθαίνετε όλα τα νέα