Cyberbullismo a scuola, arriva l’app che lo previene agendo sulle chat della scuola: ecco come funziona l’algoritmo

A Milano, grazie alla collaborazione tra Università di Padova e Fondazione Carolina e al contributo di Fondazione TIM, è stata sperimentata un’app che agisce automaticamente nelle chat scolastiche grazie ad un algoritmo che rileva il grado di esposizione al rischio di cyberbullismo nelle conversazioni digitali all’interno del gruppo classe.

Si tratta di un modello di intelligenza artificiale elaborato dal Dipartimento di Filosofia, Sociologia, Pedagogia, Psicologia Applicata (FISPPA) dell’Università degli Studi di Padova che si affianca all’esperienza, all’ascolto e al supporto al mondo della scuola dagli esperti di Fondazione Carolina, che è nata proprio dall’impegno della famiglia di una delle prime vittime di cyberbullismo nel 2013, Carolina Picchio.

Il progetto di ricerca, che ha vinto la Call for Ideals 2023 di Fondazione TIM, agisce nel rispetto dell’anonimato, ed è in grado di quantificare i rischi legati all’insorgere di condotte aggressive o discriminatorie tra pari.

Sentinella digitale: la sperimentazione a Milano

L’App si considerare una sorta di “sentinella” digitale che fornisce agli insegnanti e agli educatori la misura delle implicazioni del linguaggio nei messaggi quotidiani tra studenti, attraverso un punteggio in grado di poter stabilire il coinvolgimento dei servizi del territorio o, laddove necessario, l’attivazione di una task force di assistenza dedicata dalla Fondazione Carolina (https://www.fondazionecarolina.org/2021/).

La sperimentazione ha coinvolto 97 studenti dell’Istituto d’Istruzione Superiore Zaccaria di Milano e ha visto l’inizio dei lavori a febbraio 2024 e li concluderà a giugno 2025. Il test si è svolto attraverso una conversazione via chat della durata 30 minuti, al termine della quale si è chiesto ai ragazzi di descrivere che cosa fosse accaduto, secondo loro, nella sperimentazione e di valutare il grado di esposizione al rischio di cyberbullismo della chat su una scala da 0 a 10.

I risultati

I primi risultati rilevano che il 70% degli studenti non sa riconoscere quando è a rischio di esposizione al cyberbullismo, quando si trova ad usare una chat online, e non riesca a valutare se ciò che sta avvenendo nella chat stessa possa portare ad un’esposizione al cyberbullismo, anche quando il rischio stesso è presente ed è alto.

Questo, secondo i responsabili scientifici del progetto, porta gli studenti a sottostimare le situazioni in cui si possono trovare quando utilizzano le piattaforme social.

Inoltre, la sperimentazione mette in luce come, in situazioni di forte esposizione al cyberbullismo, proprio perché i più giovani come coloro che hanno fatto parte del campione milanese, non sono in grado di riconoscerne e valutarne il rischio, sia altamente improbabile che gli studenti chiedano l’intervento di insegnanti o genitori, rendendo così complessa l’intercettazione di casi in una fase di rischio ancora contenuta.

Secondo i dati diffusi da Fondazione Carolina, che dal 2018 propone nelle scuole e tra le associazioni azioni di prevenzione al cyberbullismo, il 50% degli studenti è stata vittima, almeno una volta di violenza online. Una percentuale che aumenta sensibilmente allargando il campo anche alle occasioni in cui i ragazzi siano coinvolti, anche solo indirettamente, in episodi analoghi. I dati raccolti sul campo dagli educatori di Fondazione Carolina confermano che 3 minori su 4, dagli 11 ai 17 anni, hanno vissuto, personalmente o come testimoni, esperienze legate all’utilizzo scorretto o inconsapevole del Web.

Come funziona l’app

L’applicazione NETGuardianChat ha due applicativi: la prima è una piattaforma di messaggistica in cui gli studenti possono registrarsi, costruire il proprio profilo, creare una chat con gli altri membri del gruppo classe e scambiarsi messaggi di testo.

Il secondo applicativo è costruito per i docenti che, ogni qual volta accedono nell’applicativo, possono avere un dato in tempo reale sul grado di esposizione al rischio di cyberbullismo registrato dalla chat di classe. Il dato che l’App restituisce ai docenti rispetta l’anonimato degli studenti non dando loro la possibilità di leggere i messaggi del gruppo classe.

La misura di esposizione al rischio di cyberbullismo è stata generata attraverso l’uso della Tavola Semiradiale dei Repertori Discorsivi che formalizza le modalità con cui si interagisce (sia nel mondo fisico che virtuale).

Impatto a medio-lungo termine dell’app

Il progetto è stato realizzato auspicando che Netguardian possa divenire plug-in di altre piattaforme di messaggistica, in modo che studenti e studentesse possano usarla per tutelare sé e gli altri dal cyberbullismo. L’app, così come hanno dimostrato i primi risultati, potrà sostituire gli attuali strumenti di “parental control”, dal controllo di “che cosa” il minore scrive al “come” lo scrive.