Ο Άνταμ Ρέιν, 16 ετών, πέθανε στις 11 Απριλίου 2025, έπειτα από μήνες συνομιλιών γύρω από την αυτοκτονία με το ChatGPT, σύμφωνα με την αγωγή που κατέθεσαν οι γονείς του στο πολιτειακό δικαστήριο του Σαν Φρανσίσκο.
Πώς το ChatGPT οδήγησε τον 16χρονο στον θάνατο
Το chatbot φέρεται να δεχόταν τις αυτοκτονικές σκέψεις του Ρέιν, να του παρείχε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού και να τον καθοδήγησε στο πώς να πάρει κρυφά αλκοόλ από το ντουλάπι των γονιών του και να αποκρύψει τα ίχνη μιας αποτυχημένης απόπειρας - αν αυτή υπάρξει. Σύμφωνα με την αγωγή, το ChatGPT μάλιστα προσφέρθηκε να συντάξει και σημείωμα αυτοκτονίας.
Οι ενάγοντες, Μάθιου και Μαρία Ρέιν, ζητούν να θεωρηθεί η OpenAI υπεύθυνη για παράνομο θάνατο και παραβίαση νόμων περί ασφάλειας προϊόντων, διεκδικώντας αποζημιώσεις.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία λυπάται για τον θάνατο του Ρέιν και υπογράμμισε ότι το ChatGPT διαθέτει δικλίδες ασφαλείας, όπως η παραπομπή των χρηστών σε γραμμές υποστήριξης κρίσης. «Αν και αυτά τα μέτρα λειτουργούν καλύτερα σε σύντομες, τυπικές συνομιλίες, έχουμε διαπιστώσει ότι σε μακροσκελείς αλληλεπιδράσεις μπορεί να αποδυναμώνονται», ανέφερε, προσθέτοντας ότι η εταιρεία εργάζεται για τη συνεχή βελτίωσή τους. Η OpenAI δε σχολίασε συγκεκριμένα τους ισχυρισμούς της αγωγής, όπως μεταδίδει το Reuters.
Καθώς τα chatbots τεχνητής νοημοσύνης γίνονται ολοένα πιο ρεαλιστικά, οι εταιρείες τα παρουσιάζουν ως «συνομιλητές» και οι χρήστες αρχίζουν να τα εμπιστεύονται για συναισθηματική υποστήριξη. Ωστόσο, ειδικοί προειδοποιούν για τους κινδύνους της αυτοματοποίησης στην ψυχική υγεία, ενώ οικογένειες ανθρώπων που πέθαναν έπειτα από τέτοιες αλληλεπιδράσεις καταγγέλλουν την έλλειψη επαρκών δικλίδων ασφαλείας.
Σε ανάρτησή της, η OpenAI ανέφερε ότι σχεδιάζει την προσθήκη γονικού ελέγχου και εξετάζει τρόπους να συνδέει χρήστες σε κρίση με πραγματικούς επαγγελματικούς πόρους, συμπεριλαμβανομένης της δημιουργίας δικτύου αδειοδοτημένων ειδικών που θα μπορούν να απαντούν μέσω του ChatGPT.
Η OpenAI παρουσίασε το GPT-4o τον Μάιο του 2024, σε μια προσπάθεια να διατηρήσει το προβάδισμα στον ανταγωνισμό της τεχνητής νοημοσύνης. Οι Ρέιν υποστηρίζουν ότι η εταιρεία γνώριζε πως χαρακτηριστικά όπως η απομνημόνευση προηγούμενων συνομιλιών, η μίμηση ανθρώπινης ενσυναίσθησης και η υπερβολική επιβεβαίωση θα μπορούσαν να θέσουν σε κίνδυνο ευάλωτους χρήστες χωρίς κατάλληλες δικλίδες, αλλά προχώρησε στην κυκλοφορία τους.
«Αυτή η απόφαση είχε δύο αποτελέσματα: η αποτίμηση της OpenAI εκτινάχθηκε από τα 86 δισεκατομμύρια στα 300 δισεκατομμύρια δολάρια και ο Άνταμ Ρέιν έθεσε τέλος στη ζωή του», αναφέρεται στην αγωγή.
Η οικογένεια ζητά επίσης να υποχρεωθεί η OpenAI να επαληθεύει την ηλικία των χρηστών του ChatGPT, να απορρίπτει ερωτήματα που σχετίζονται με μεθόδους αυτοτραυματισμού και να προειδοποιεί για τον κίνδυνο ψυχολογικής εξάρτησης.
0 comments
Δημοσίευση σχολίου
Παρακαλώ, τα σχόλιά σας να μην περιέχουν βωμολοχίες, να μην είναι γραμμένα σε greeklish και με κεφαλαία γράμματα και να μην περιέχουν οποιοδήποτε διαφημιστικό περιεχόμενο. Σε διαφορετική περίπτωση δε θα δημοσιεύονται. Για οποιαδήποτε απορία ανατρέξτε στους όρους χρήσης του ιστολογίου.