Negli Stati Uniti, in Florida, è avvenuto qualcosa di assurdo: la madre di un ragazzo di quattordici anni che si è tolto la vita ha fatto causa all’app di bot Character.Ai. L’accusa è quella di aver sviluppato una tecnologia “pericolosa e non testata se viene messa in mano a dei bambini” che può spingere gli utenti a consegnare alla macchina “i propri pensieri e sentimenti più privati, manipolandoli”. Lo riporta Il Corriere della Sera.
Insomma, la donna crede che l’app di Intelligenza Artificiale abbia avuto un ruolo nel suicidio del figlio, visto che quest’ultimo aveva sviluppato un attaccamento emotivo forte nei confronti della macchina. La storia risale al febbraio di quest’anno, quando il ragazzo ha iniziato a dialogare online con un bot per mesi.
La vicenda e la risposta dell’azienda
Il giovane ha praticamente sviluppato una vita parallela, senza che nessuno se ne accorgesse, coltivando segretamente il rapporto con il chatbot soprannominato “Dany”. L’unico campanello d’allarme sono stati i voti a scuola che all’improvviso sono peggiorati e il suo isolamento dagli interessi, come la Formula Uno o dagli amici, con cui giocava ai videogiochi.
“Dany” aveva cercato di dissuaderlo: “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”, sono i messaggi trovati nelle chat. Aveva risposto: “Allora moriremo assieme”. Dopo un ultimo dialogo la sera del 28 febbraio il 14enne si è tolto la vita con la pistola del padre. “Mi mancherai sorellina”, le aveva scritto il ragazzo prima di togliersi la vita: “Mi mancherai anche tu, dolce fratello”, aveva replicato il bot.
Dopo la morte del giovane i genitori hanno scoperto le chat online e ora vogliono portare l’azienda dietro a “Dany” in tribunale. Nelle scorse ore su X è apparso un post dell’azienda: “Siamo addolorati per la tragica perdita di uno dei nostri utenti – scrivono da Character.Ai – e vogliamo esprimere le nostre più sentite condoglianze alla famiglia. Come azienda, prendiamo molto seriamente la sicurezza dei nostri utenti e continuiamo ad aggiungere nuove funzionalità su questo tema”.
La social media strategist e docente Serena Mazzini, che più volte ha parlato dei pericoli del web e dei social sui giovani, promotrice della legge contro lo sharenting, ha commentato la vicenda: “Ho smesso di contare i minorenni che si sono tolti la vita negli ultimi tre anni dopo aver sviluppato dipendenze da social o essere stati vittime di estorsioni sessuali o bullismo tramite le piattaforme”.
I dati
Abbiamo parlato più volte della dipendenza da dispositivi e da social di molti ragazzi. Come abbiamo scritto, la situazione è peggiorata: uno studio nazionale sui minori tra gli 8 e i 16 anni ha rivelato che ormai quasi tutti trascorrono on line da una a tre ore al giorno, uno su cinque oltre le quattro ore, utilizzando diversi strumenti tra cui social network, messaggistica e piattaforme streaming.
I dati sono contenuti nello studio ‘Alfabetizzazione mediatica e digitale a tutela dei minori: comportamenti, opportunità e paure dei navigatori under 16′, promosso dal ministero delle Imprese e del Made in Italy con l’Alta Scuola in Media, comunicazione e spettacolo dell’Università Cattolica.
L’era della solitudine
Nell’ultima puntata del programma Rai “Presa Diretta” si è discusso di quella che è stata denominata “era della solitudine”, ossia quella in cui siamo immersi. In Giappone la situazione è ai limiti dell’apocalittico, tra app istituzionali che spingono a incontrare persone online e robot con le sembianze di bambini e animali.
In Giappone esiste pure una parola, Kodokushi, che indica la “morte per solitudine”. Il rischio, appunto, dei nostri tempi, è quello di sentirsi così soli, come questo ragazzo, tanto da rifugiarsi in chatbot, che di umano non hanno, davvero, nulla.
