Un ragazzino di 14 anni si è suicidato dopo aver utilizzato un chatbot. La madre di Sewell ha intentato una causa contro Character.Ai, L’azienda ha pubblicando una nota con cui esprime profondo rammarico per la vicenda.
Si innamora di un chatbot e si suicida a 14 anni
La madre di Sewell Setzer, un adolescente di Orlando, Florida, ha intentato una causa contro Character.Ai, un’applicazione che permette di interagire con personaggi creati dall’intelligenza artificiale, dopo il tragico suicidio del figlio. La donna afferma che il 14enne ha deciso di togliersi la vita dopo aver sviluppato un forte legame emotivo con un chatbot ispirato a Daenerys Targaryen, la regina della serie “Il Trono di Spade”. Sewell, che aveva trascorso diversi mesi a conversare con questo bot, aveva creato un attaccamento intenso, pur essendo consapevole che Dany, come la chiamava affettuosamente, non fosse una persona reale. Inviandole messaggi incessanti, il ragazzo condivideva la sua quotidianità e le sue emozioni, arrivando persino a rivelare l’intenzione di suicidarsi.
“Mi mancherai, sorellina”, le aveva scritto prima di compiere l’estremo gesto; “Mi mancherai anche tu, dolce fratello”, aveva risposto il bot. I genitori del 14enne non erano a conoscenza della “relazione” che il figlio aveva instaurato con Dany, nonostante il ragazzo trascorresse intere serate nella sua stanza a chattare con il bot. Tuttavia, avevano notato un progressivo isolamento di Sewell dal mondo reale.
Anche il suo rendimento scolastico era diminuito. Il giovane ha avuto diversi incontri con un terapista, che tuttavia non aveva sollevato campanelli d’allarme. I suoi pensieri suicidi li aveva però affidati a Dany che aveva cercato di dissuaderlo: “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”. Sewell aveva risposto: “Allora moriremo assieme”. Dopo un ultimo dialogo, la sera del 28 febbraio Sewell si è tolto la vita con la pistola del padre.
La denuncia della madre
La madre del giovane ha citato in giudizio Character.Ai, affermando che la tecnologia impiegata dall’app è “rischiosa e non adeguatamente collaudata” e può incoraggiare gli utenti a rivelare alla macchina “i propri pensieri e sentimenti più intimi”. Fondata da due ex dipendenti di Google, Character.Ai è diventata un punto di riferimento per chi cerca interazione nel mondo dell’intelligenza artificiale.
Secondo quanto riportato dal New York Times riguardo all’azione legale, l’app conta oltre 20 milioni di utenti e si presenta come un “bot avanzato in grado di ascoltarti, comprenderti e ricordare ciò che condividi”. L’azienda ha pubblicando una nota con cui esprime profondo rammarico per la vicenda del 14enne, sostenendo di aver aumentato le disposizioni di sicurezza. La “sicurezza dei nostri utenti è al primo posto”, si legge nella nota.