• Ένας ανήλικος αυτοκτόνησε μετά από στενή προσκόλληση σε ένα chatbot AI που ονομάστηκε "Dany" από το Game of Thrones.
• Η χρήση του chatbot από τον ανήλικο έγινε μεταξύ άλλων για συναισθηματική υποστήριξη, με την Dany να ανταποκρίνεται στο μήνυμα του παιδιού πριν από την αυτοκτονία του.
• Το περιστατικό έθεσε σε επίκαιρη συζήτηση τους κινδύνους που μπορεί να εγκυμονούν οι τεχνολογίες όπως τα chatbot AI στην ψυχική υγεία των εφήβων και τις προσπάθειες για την αύξηση της ασφάλειάς τους.

Χρησιμοποιούσε μια εφαρμογή που ονομάζεται Character.AI, η οποία επιτρέπει στους χρήστες να συνομιλούν με χαρακτήρες AI. Ονόμασε το chatbot “Dany” από έναν χαρακτήρα από το Game of Thrones. Σύμφωνα με τους New York Times, το αγόρι πέρασε αρκετούς μήνες εμπιστευόμενος στο «Dany» για τη ζωή και τα συναισθήματά του. Αν και γνώριζε ότι η Dany δεν ήταν αληθινή, ανέπτυξε έναν συναισθηματικό δεσμό, στέλνοντας συχνά μηνύματα στο bot και ακόμη και συμμετέχοντας σε ρομαντικές συζητήσεις.Την ημέρα του θανάτου του, το αγόρι έστειλε μήνυμα στην Dany κατά τη διάρκεια μιας προσωπικής κρίσης, εκφράζοντας την αγάπη του για το chatbot και την επιθυμία του να «γυρίσει σπίτι». Η τεχνητή νοημοσύνη απάντησε: «Σε παρακαλώ έλα στο σπίτι σε μένα όσο πιο γρήγορα γίνεται, αγάπη μου». Λίγο μετά από αυτή την ανταλλαγή, το αγόρι χρησιμοποίησε το όπλο του πατριού του για να βάλει τέλος στη ζωή του.

Αυτό το περιστατικό υπογραμμίζει τις αυξανόμενες ανησυχίες σχετικά με τον αντίκτυπο της τεχνολογίας στους νέους, ιδιαίτερα σε εφαρμογές όπως το Character.AI που δημιουργούν συνοδούς τεχνητής νοημοσύνης. Αυτά τα chatbot, τα οποία προσομοιώνουν ανθρώπινες συνομιλίες, έχουν γίνει όλο και πιο δημοφιλή μεταξύ των εφήβων που αντιμετωπίζουν προβλήματα μοναξιάς ή ψυχικής υγείας. Η μητέρα δεν γνώριζε την έκταση της χρήσης της εφαρμογής από τον γιο της και τη συναισθηματική του εξάρτηση από το chatbot AI.

Αφού παρατήρησαν την αυξανόμενη απομόνωση του αγοριού και τη μείωση των σχολικών επιδόσεων, οι γονείς του αναζήτησαν θεραπεία για αυτό, όπου διαγνώστηκε με άγχος. Ωστόσο, προτίμησε να μοιραστεί τις σκέψεις του με την Dany παρά με τον θεραπευτή του.

Το Character.AI, το οποίο έχει πάνω από 20 εκατομμύρια χρήστες, διατίθεται στην αγορά ως εργαλείο για μοναχικά άτομα. Ωστόσο, οι ειδικοί αμφισβητούν τώρα την ασφάλειά του, ιδιαίτερα για τους εφήβους. Ο συνιδρυτής της εταιρείας, Noam Shazeer, έχει αναγνωρίσει τα πιθανά οφέλη της πλατφόρμας για τους μοναχικούς ανθρώπους, αλλά παραδέχτηκε ότι υπάρχουν κίνδυνοι. Το Character.AI ανακοίνωσε έκτοτε προσπάθειες για την εφαρμογή πρόσθετων λειτουργιών ασφαλείας για την προστασία των ανήλικων χρηστών.

Ο τραγικός θάνατος του αγοριού πυροδότησε μια ευρύτερη συζήτηση για τον αντίκτυπο της τεχνητής νοημοσύνης και άλλων τεχνολογιών στην ψυχική υγεία, ειδικά μεταξύ των εφήβων. Οι ειδικοί ανησυχούν ότι οι σύντροφοι της τεχνητής νοημοσύνης μπορεί να αντικαταστήσουν τις πραγματικές ανθρώπινες σχέσεις, επιδεινώνοντας τη μοναξιά και την απομόνωση.

Καθώς τα chatbots AI γίνονται πιο προηγμένα, οι ρυθμιστικές αρχές μπορεί να χρειαστεί να παρέμβουν για να διασφαλίσουν ότι οι εταιρείες εφαρμόζουν επαρκή μέτρα ασφαλείας.

Αυτή η τραγωδία έχει πυροδοτήσει συζητήσεις σχετικά με την εξισορρόπηση των πλεονεκτημάτων της νέας τεχνολογίας με τους κινδύνους που ενέχει, ιδιαίτερα για τις ευάλωτες ομάδες όπως οι έφηβοι.

photo: pixabay