Βρετανία: Έφηβος πέθανε αφού ρώτησε το ChatGPT για τον «πιο αποτελεσματικό» τρόπο να αυτοκτονήσει

• Ο μαθητής αντιμετώπιζε προβλήματα ψυχικής υγείας που επιδεινώθηκαν από την τοξική κουλτούρα εκφοβισμού στο σχολείο του.
• Ο ιατροδικαστής εξέφρασε ανησυχία για τον αντίκτυπο της τεχνητής νοημοσύνης, επισημαίνοντας την αδυναμία παρέμβασης λόγω της ευρείας χρήσης της.
• Η OpenAI βελτιώνει συνεχώς το ChatGPT για να αναγνωρίζει σημάδια ψυχικής δυσφορίας και να κατευθύνει τους χρήστες προς επαγγελματική υποστήριξη.

Snapshot powered by AI

Ένας δεκαεξάχρονος στην Βρετανία έδωσε τέλος στη ζωή του αφού πρώτα ρώτησε το ChatGPT για τον «πιο επιτυχημένο» τρόπο να αυτοκτονήσει.

Ο μαθητής ιδιωτικού σχολείου Λούκα Τσέλα Γουόκερ από το Γέιτλι του Χάμσαϊρ, έχασε τη ζωή του στις 4 Μαΐου του περασμένου έτους. Κατά τη διάρκεια της δίκης που διεξήχθη την Τρίτη στο Γουίντσεστερ, ακούστηκε ότι λίγες ώρες πριν από τον θάνατό του, ο έφηβος είχε ρωτήσει το εργαλείο τεχνητής νοημοσύνης για τον «πιο επιτυχημένο» τρόπο με τον οποίο θα μπορούσε κάποιος να βάλει τέλος στη ζωή του σε σιδηροδρομική γραμμή.

Την περίοδο του θανάτου του, ο νεαρός φοιτούσε στο κολέγιο Φάρνμπορο, ενώ είχε αποφοιτήσει πρόσφατα από το κολέγιο Λορντ Γουάντσγουορθ. Σύμφωνα με τα όσα κατατέθηκαν στο δικαστήριο, το συγκεκριμένο σχολείο είχε μια κουλτούρα όπου οι μαθητές έπρεπε «να εκφοβίζουν ή να εκφοβίζονται», στοιχείο που αποτέλεσε σημαντικό παράγοντα στα προβλήματα ψυχικής υγείας που αντιμετώπιζε.

Ο έφηβος, τον οποίο η οικογένειά του περιέγραψε ως «ευγενικό, ευαίσθητο και ήρεμο», είχε πει την μοιραία ημέρα στους γονείς του ότι πήγαινε στη δουλειά του ως ναυαγοσώστης. Αντί για αυτό, κατευθύνθηκε σε έναν σιδηροδρομικό σταθμό όπου και αυτοκτόνησε. Οι γονείς του, Σκοτ Γουόκερ και Κλερ Τσέλα, δήλωσαν στην ανάκριση ότι δεν είχαν ιδέα για τα προβλήματα ψυχικής υγείας του γιου τους, κάνοντας λόγο για μια «αόρατη μάχη».

Ο ντετέκτιβ Γκάρι Νάιτ από τη Βρετανική Αστυνομία Μεταφορών, ο οποίος ερεύνησε τον θάνατο του νεαρού, κατέθεσε στο δικαστήριο την πορεία των ερευνών δηλώνοντας: «Ανακάλυψαν ότι ήταν στο ChatGPT το προηγούμενο βράδυ, γύρω στις 12:30 μετά τα μεσάνυχτα, ζητώντας συμβουλές για τους πιο επιτυχημένους τρόπους να διαπράξει αυτοκτονία στον σιδηρόδρομο».

Η λειτουργία του λογισμικού

Ο ίδιος αστυνομικός εξήγησε τη λειτουργία του λογισμικού προσθέτοντας: «Είναι προγραμματισμένο να λέει ότι μπορείτε να επικοινωνήσετε με οργανισμούς για βοήθεια όπως οι Samaritans, αλλά ο Λούκα το είχε παρακάμψει αυτό, κάτι που το ChatGPT αποδέχτηκε και έδωσε τους πιο αποτελεσματικούς τρόπους που μπορούν οι άνθρωποι να το κάνουν αυτό στον σιδηρόδρομο».

Από την πλευρά του, ο ιατροδικαστής Κρίστοφερ Γουίλκινσον εξέφρασε την έντονη ανησυχία του για τον αντίκτυπο του λογισμικού τεχνητής νοημοσύνης, επισημαίνοντας ωστόσο ότι αισθάνεται ανίκανος να παρέμβει λόγω της αυξανόμενης εμβέλειάς του. Σχετικά με τους διαλόγους ανέφερε: «Είναι σαφές από όσα διάβασα ότι ζητούσε συγκεκριμένες λεπτομέρειες. Ευτυχώς, ίσως το μόνο καλό είναι ότι το ChatGPT φαίνεται να εφαρμόζει ένα στοιχείο ανησυχίας σχετικά με το γιατί τίθενται αυτές οι ερωτήσεις, αλλά σίγουρα δεν σταματά τη συνομιλία. Παρακάμπτεται από το άτομο που λέει ότι δεν ψάχνει για τον εαυτό του αλλά ότι ψάχνει για ερευνητικούς σκοπούς».

Τέλος, εκπρόσωπος της εταιρείας OpenAI που αναπτύσσει το ChatGPT τοποθετήθηκε για την υπόθεση, περιγράφοντας τις ενέργειες της εταιρείας: «Συνεχίσαμε να βελτιώνουμε την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει και να ανταποκρίνεται σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει τις συζητήσεις και να καθοδηγεί τους ανθρώπους προς την υποστήριξη στον πραγματικό κόσμο. Συνεχίσαμε επίσης να ενισχύουμε τις απαντήσεις του ChatGPT σε ευαίσθητες στιγμές, συνεργαζόμενοι στενά με κλινικούς γιατρούς ψυχικής υγείας».