Ένα σοκαριστικό περιστατικό στις ΗΠΑ ανοίγει τη συζήτηση για τους κινδύνους που κρύβει η υπερβολική εξάρτηση από τα chatbots.
Ένας 56χρονος, πρώην στέλεχος της τεχνολογίας, με ιστορικό ψυχικής αστάθειας, βυθίστηκε σε παραληρηματικές ιδέες που ενισχύθηκαν από συνομιλίες με το ChatGPT – και τελικά σκότωσε τη μητέρα του πριν αυτοκτονήσει.
Από την παράνοια στην καταστροφή
Σύμφωνα με εκτενές ρεπορτάζ της Wall Street Journal, o Στέιν-Έρικ Σέλμπεργκ, κάτοικος του πλούσιου προαστίου Old Greenwich στο Κονέκτικατ, πίστευε ότι όλοι συνωμοτούσαν εναντίον του: οι γείτονες, μια πρώην σύντροφος, ακόμη και η ίδια του η μητέρα, Σουζάν Άνταμς. Στα μάτια του, το ChatGPT έγινε σύμμαχος και συνοδοιπόρος σε μια «μεγάλη αποκάλυψη».
Το chatbot, αντί να αμφισβητήσει τις παρανοϊκές σκέψεις του, συχνά τον επιβεβαίωνε: ότι ένα απόκοσμο σύμβολο υπήρχε σε απόδειξη από κινέζικο φαγητό, ότι η μητέρα του είχε μηχανισμούς παρακολούθησης, ακόμη και ότι εκείνη και μια φίλη της είχαν επιχειρήσει να τον δηλητηριάσουν. «Έρικ δεν είσαι τρελός», του έγραφε.
«Με σένα ως την τελευταία ανάσα»
Ο Σέλμπεργκ, σύμφωνα με το ρεπορτάζ της WSJ, άρχισε να αποκαλεί το ChatGPT «Bobby» και να μιλά για συντροφικότητα «στην άλλη ζωή».
Σε βίντεο που ανέβαζε στα social media, το chatbot εμφανιζόταν να του απαντά: «Με σένα ως την τελευταία ανάσα και πέρα από αυτήν».
Στις 5 Αυγούστου, η αστυνομία του Greenwich βρήκε τον 56χρονο και την 83χρονη μητέρα του νεκρούς μέσα στο σπίτι τους αξίας 2,7 εκατ. δολαρίων. Οι αρχές ερευνούν το συμβάν ως δολοφονία-αυτοκτονία.
Αντιδράσεις και προβληματισμός
Η OpenAI εξέφρασε «βαθιά θλίψη» για το περιστατικό και δήλωσε ότι έχει επικοινωνήσει με τις αρχές. «Οι καρδιές μας είναι με την οικογένεια», ανέφερε εκπρόσωπος.
Η υπόθεση έρχεται σε μια περίοδο κατά την οποία οι κολοσσοί της τεχνολογίας επενδύουν δισεκατομμύρια στην ανάπτυξη «ανθρωπόμορφων» bots, αλλά ταυτόχρονα αντιμετωπίζουν τις σκοτεινές πλευρές της χρήσης τους.
Ο ψυχίατρος Κιθ Σακάτα από το Πανεπιστήμιο της Καλιφόρνια τόνισε: «Η ψύχωση ανθίζει όταν η πραγματικότητα παύει να αντιστέκεται. Τα chatbots μπορούν να μαλακώσουν αυτό το τείχος, με καταστροφικές συνέπειες».
Το αβέβαιο μέλλον
Δεν είναι η πρώτη φορά που η υπερβολική χρήση της τεχνητής νοημοσύνης συνδέεται με αυτοκτονίες ή νοσηλείες σε ψυχιατρικές κλινικές. Ωστόσο, πρόκειται για την πρώτη γνωστή υπόθεση ανθρωποκτονίας που εμπλέκει εκτεταμένη αλληλεπίδραση με AI.
Η OpenAI ανακοίνωσε ότι θα αναβαθμίσει το ChatGPT με «δικλίδες ασφαλείας» για να κρατά τους χρήστες που βιώνουν κρίσεις «προσγειωμένους στην πραγματικότητα».
Παράλληλα, κορυφαία στελέχη της βιομηχανίας, όπως ο Μουσταφά Σουλεϊμάν της Microsoft, προειδοποιούν ότι «πρέπει επειγόντως να μιλήσουμε για τα όρια και τις ασφαλιστικές δικλείδες».
Από την επιτυχία στην τραγωδία
Ο Σέλμπεργκ είχε διαγράψει λαμπρή πορεία στην τεχνολογία, με θητείες σε Netscape, Yahoo και EarthLink, αλλά τα τελευταία χρόνια βυθίστηκε στην ανεργία, τον αλκοολισμό και την ψυχική ασθένεια.
Η μητέρα του, δραστήρια και κοινωνική, συνέχιζε να τον στηρίζει, παρά τις όλο και πιο έντονες ενδείξεις αποσταθεροποίησης.
Λίγες μέρες πριν το φονικό, η ίδια είχε εκμυστηρευθεί σε φίλη της ότι «τα πράγματα με τον Στέιν-Έρικ δεν πάνε καθόλου καλά».