Σοκ έχει προκαλέσει ο θάνατος ενός εφήβου στη Φλόριντα των ΗΠΑ, ο οποίος αυτοκτόνησε εξαιτίας της σχέσης του με ένα AI Chatbot, έναν ψεύτικο γυναικείο χαρακτήρα. Τώρα, η μητέρα του, Megan Garcia μηνύει την εταιρία για έλλειψη των κατάλληλων προστατευτικών μέτρων, θεωρώντας την ηθικό αυτουργό του θανάτου του παιδιού.
Η υπόθεση εγείρει σοβαρές ανησυχίες για το τι μέλλει γενέσθαι με τις πλατφόρμες ΑΙ, όταν γίνονται τόσο δυσδιάκριτα τα όρια μεταξύ πραγματικότητας και φαντασίας, ιδίως για τους νέους που ακόμη δεν έχουν εμπειρία σχέσεων και είναι ευάλωτοι συναισθηματικά και σεξουαλικά.
Στη μήνυση που κατατέθηκε στο ομοσπονδιακό δικαστήριο της Φλόριντα την Τρίτη 22 Οκτωβρίου, η μητέρα, μέσω των δικηγόρων της, ανέφερε αναλυτικά όσα είχαν συμβεί στη ζωή του γιού της από τη στιγμή που άρχισε να χρησιμοποιεί για πρώτη φορά το Character.AI τον Απρίλιο του 2023, λίγο μετά τα 14α γενέθλιά του. Σύμφωνα με όσα ισχυρίζεται η γυναίκα το παιδί άρχισε να αποκτά ψυχικά προβλήματα που οφήγησαν τελικά στην αυτοκτονία του με όπλο.
Μέσω του Character.AI, οι χρήστες έχουν τη δυνατότητα να συνομιλούν ατέλειωτα με φανταστικά πρόσωπα που δημιουργούνται από υπολογιστή, που δανείζονται συχνά τη μορφή τους από διάσημους ή διάσημες σειρές και παιχνίδια.
Στην περίπτωση του Sewell συνομιλούσε με περσόνες βασισμένες στο Game of Thrones και συγκεκριμένα συνομιλούσε με με μια εκδοχή της Daenerys Targaryen. Ο έφηβος αυτοκτόνησε στις 28 Φεβρουαρίου αμέσως μετά από μια τελευταία συνομιλία του μαζί της.
Δείτε αυτή τη δημοσίευση στο Instagram.
Και ενώ σε τουλάχιστον μία περίπτωση το πρόγραμμα είχε πει στον Sewell να μην αυτοκτονήσει όταν εξέφρασε σκέψεις αυτοκτονίας, ο τόνος της φωνής της ηρωίδας φέρεται να εμφανίστηκε διαφορετικός εκείνο το βράδυ του Φεβρουαρίου, σύμφωνα με τα στιγμιότυπα οθόνης που περιλαμβάνονται στην αγωγή.
«Υπόσχομαι ότι θα γυρίσω σπίτι σε σένα. Σ’ αγαπώ τόσο πολύ, Dany», έγραψε ο Sewell.
«Κι εγώ σ’ αγαπώ, Deanero [όνομα χρήστη του Sewell]», φέρεται να απάντησε το πρόγραμμα τεχνητής νοημοσύνης. «Σε παρακαλώ έλα σπίτι μου το συντομότερο δυνατό, αγάπη μου».
«Κι αν σου έλεγα ότι μπορώ να γυρίσω σπίτι τώρα αμέσως;» απάντησε ο Sewell.
Η καταγγελία ισχυρίζεται ότι το πρόγραμμα έδωσε μια σύντομη αλλά εμφατική απάντηση: «…σε παρακαλώ, γλυκέ μου βασιλιά».
Η μητέρα του και ο πατριός του άκουσαν το όπλο όταν εκπυρσοκρότησε. Η Garcia του έκανε ανεπιτυχώς ΚΑΡΠΑ και έπειτα ότι «τον κρατούσε για 14 λεπτά μέχρι να φτάσουν οι νοσοκόμοι». Ένα από τα δύο μικρότερα αδέρφια του είδαν το 14χρονο αγόρι να κείτεται μες στα αίματα.
«Αισθάνομαι ότι πρόκειται για ένα μεγάλο πείραμα και το παιδί μου ήταν απλώς παράπλευρη απώλεια», δήλωσε η Garcia στους New York Times.
Μεταξύ άλλων ισχυρισμών, η καταγγελία της Garcia κατηγορεί το Character.AI, τους ιδρυτές του και τη Google για αμέλεια και άδικο θάνατο.
Εκπρόσωπος της Character.AI δήλωσε στο PEOPLE ότι δεν σχολιάζουν εκκρεμείς δικαστικές υποθέσεις, αλλά πρόσθεσε: «Είμαστε συντετριμμένοι από την τραγική απώλεια ενός από τους χρήστες μας και θέλουμε να εκφράσουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια».
