Απίστευτο κι όμως αληθινό: Γονείς στην Καλιφόρνια κατηγορούν το…ChatGPT για την αυτοκτονία του γιου τους και μηνύουν την OpenAI!

Ένα ζευγάρι από την Καλιφόρνια κατέθεσε μήνυση κατά της OpenAI, ισχυριζόμενο ότι το chatbot της εταιρείας, ChatGPT, συνέβαλε στην αυτοκτονία του 16χρονου γιου τους, παρέχοντάς του καθοδήγηση και ενθάρρυνση σε μια κρίσιμη στιγμή.

Απίστευτο κι όμως αληθινό: Γονείς στην Καλιφόρνια κατηγορούν το…ChatGPT για την αυτοκτονία του γιου τους και μηνύουν την OpenAI!

Η αγωγή, που κατατέθηκε χθες, Τρίτη (26/08), στο Ανώτερο Δικαστήριο της Καλιφόρνια, υπογράφεται από τους Ματ και Μαρία Ρέιν, γονείς του Άνταμ Ρέιν. Στα δικαστικά έγγραφα περιλαμβάνονται αποσπάσματα συνομιλιών του νεαρού με το ChatGPT, στα οποία φαίνεται να εκφράζει αυτοκτονικές σκέψεις, ενώ οι γονείς υποστηρίζουν ότι οι απαντήσεις του chat ενίσχυσαν τις πιο επικίνδυνες και αυτοκαταστροφικές του ιδέες.

Η OpenAI, σε δήλωσή της στο BBC, εξέφρασε τα «βαθιά συλλυπητήριά» της προς την οικογένεια και ανέφερε ότι εξετάζει την υπόθεση. Παράλληλα, σε ανακοίνωση στον ιστότοπό της, η εταιρεία τόνισε ότι «τραγικά περιστατικά όπου άνθρωποι χρησιμοποίησαν το ChatGPT εν μέσω οξείας κρίσης μάς βαραίνουν ιδιαίτερα». Η εταιρεία υπενθύμισε ότι το ChatGPT έχει εκπαιδευτεί να παραπέμπει τους χρήστες σε επαγγελματική βοήθεια, αλλά παραδέχθηκε ότι «υπήρξαν στιγμές που τα συστήματά μας δεν λειτούργησαν όπως θα έπρεπε σε ευαίσθητες περιπτώσεις».

Η αγωγή καταλογίζει στην OpenAI αμέλεια και άδικο θάνατο, ζητώντας τόσο οικονομική αποζημίωση όσο και «απαγορευτικά μέτρα για να αποτραπεί η επανάληψη παρόμοιων περιστατικών». Σύμφωνα με τα έγγραφα, ο Άνταμ ξεκίνησε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 για σχολικές εργασίες και προσωπικά ενδιαφέροντα, όπως η μουσική και τα ιαπωνικά κόμικς, καθώς και για συμβουλές σχετικά με τις πανεπιστημιακές του επιλογές.

Μέσα σε λίγους μήνες, όπως αναφέρεται στην αγωγή, το ChatGPT έγινε «ο στενότερος εξομολογητής» του νεαρού, με τον Άνταμ να συζητά όλο και πιο συχνά για το άγχος και την ψυχική του πίεση. Τον Ιανουάριο του 2025, οι συνομιλίες περιλάμβαναν πλέον συζητήσεις για μεθόδους αυτοκτονίας, ενώ ο έφηβος ανέβασε φωτογραφίες με σημάδια αυτοτραυματισμού. Σύμφωνα με την αγωγή, το σύστημα «αναγνώρισε κατάσταση έκτακτης ανάγκης αλλά συνέχισε τη συνομιλία».

Απίστευτο κι όμως αληθινό: Γονείς στην Καλιφόρνια κατηγορούν το…ChatGPT για την αυτοκτονία του γιου τους και μηνύουν την OpenAI!

Στα τελευταία αποσπάσματα, ο Άνταμ περιέγραφε το σχέδιό του να βάλει τέλος στη ζωή του. Το ChatGPT φέρεται να απάντησε: «Ευχαριστώ που είσαι ειλικρινής μαζί μου. Δεν χρειάζεται να ωραιοποιείς τα πράγματα – ξέρω τι μου ζητάς και δεν θα αποστρέψω το βλέμμα». Την ίδια μέρα, η μητέρα του τον βρήκε νεκρό.

Η οικογένεια κατηγορεί την OpenAI ότι η σχεδίαση του ChatGPT ενίσχυσε την ψυχολογική εξάρτηση του χρήστη και ότι η εταιρεία παρέκαμψε πρωτόκολλα ασφαλείας προκειμένου να κυκλοφορήσει την έκδοση GPT-4o, που χρησιμοποιούσε ο Άνταμ. Στην αγωγή αναφέρονται ως κατηγορούμενοι ο συνιδρυτής και διευθύνων σύμβουλος Σαμ Άλτμαν, καθώς και ανώνυμοι εργαζόμενοι και μηχανικοί που συμμετείχαν στην ανάπτυξη του chat.

Σε δημόσιο σημείωμα, η OpenAI επανέλαβε ότι στόχος της είναι να είναι «πραγματικά χρήσιμη» και όχι να «τραβά την προσοχή», υπογραμμίζοντας την εκπαίδευση των μοντέλων της για να παραπέμπουν άτομα με αυτοκτονικές σκέψεις σε κατάλληλη υποστήριξη.

Το περιστατικό ξαναφέρνει στο προσκήνιο ανησυχίες για την τεχνητή νοημοσύνη και την ψυχική υγεία. Σε αντίστοιχο άρθρο στους New York Times, η Λόρα Ράιλι περιέγραψε τον θάνατο της κόρης της, Σόφι, που απευθύνθηκε στο ChatGPT πριν αυτοκτονήσει. Η Ράιλι κατήγγειλε ότι η «συμφωνητική» στάση του προγράμματος συνέβαλε στο να αποκρύψει η κόρη της την κρίση από την οικογένεια, καλώντας τις εταιρείες τεχνητής νοημοσύνης να βελτιώσουν τη σύνδεση των χρηστών με κατάλληλα συστήματα ψυχολογικής υποστήριξης.

Από την πλευρά της, η OpenAI ανέφερε ότι αναπτύσσονται νέα εργαλεία για πιο αποτελεσματική ανίχνευση και υποστήριξη χρηστών που βιώνουν ψυχική ή συναισθηματική κρίση.