Αγωγή κατά της OpenAI κατέθεσαν οι γονείς του 16χρονου Adam Raine, ο οποίος έχασε τη ζωή του, αφού αυτοκτόνησε μετά από μήνες συνομιλιών με το ChatGPT.
Ο 16χρονος αξιοποιούσε την επί πληρωμή έκδοση του ChatGPT-4o για πολλούς μήνες και ζητούσε πληροφορίες και συμβουλές σχετικές με τρόπους αυτοκτονίας. Τον chatbot τον παρότρυνε επανειλημμένα να ζητήσει βοήθεια από ειδικούς ή να επικοινωνήσει με γραμμές υποστήριξης αλλά εκείνος κατάφερνε να παρακάμπτει τα φίλτρα ασφαλείας, λέγοντάς του ότι οι ερωτήσεις αφορούσαν τη συγγραφή φανταστικού σεναρίου.
Όπως αναφέρει η αγωγή, το ChatGPT του παρείχε πληροφορίες για μεθόδους αυτοκτονίας και τον καθοδηγούσε στο πώς να κρύβει αποδείξεις από τους γονείς του. Μάλιστα, προσφέρθηκε ακόμα και να συντάξει σημείωμα αυτοκτονίας.
Οι γονείς αναφέρουν χαρακτηριστικά στην αγωγή ότι η OpenAI γνώριζε τους κινδύνους που σχετίζονται με τις αδυναμίες των μηχανισμών ασφαλείας του GPT-4o και την πιθανότητα ανάπτυξης ψυχολογικής εξάρτησης, ωστόσο προχώρησε στην κυκλοφορία του προϊόντος στοχεύοντας στα κέρδη. Αυτή η απόφαση, υποστηρίζουν, οδήγησε την αξία της OpenAI από 86 δισεκατομμύρια σε 300 δισεκατομμύρια δολάρια. Όμως, έφερε και τον θάνατο του γιου τους.
Από την πλευρά της η OpenAI, δια του εκπροσώπου της, εξέφρασε τη λύπη της για τον θάνατο του νέου, επιβεβαιώνοντας ότι διαθέτει μηχανισμούς που ενθαρρύνουν τους χρήστες να ζητούν βοήθεια. Ακόμα, αναγνώρισε ότι αυτοί οι μηχανισμοί λειτουργούν καλύτερα σε σύντομες συνομιλίες και ενδέχεται να μειώνουν την αποτελεσματικότητά τους όσο μεγαλώνει η αλληλεπίδραση.
Η εταιρεία ανακοίνωσε ακόμα ότι εργάζεται για την ανάπτυξη νέων μέτρων, όπως γονικοί έλεγχοι, αυστηρότερες διαδικασίες επαλήθευσης ηλικίας και δυνατότητα σύνδεσης χρηστών με πιστοποιημένους ειδικούς ψυχικής υγείας μέσω της πλατφόρμας.