Una App per prevenire il cyberbullismo a scuola: ci aspetta un futuro alla Minority Report?

Abbiamo parlato in questi giorni di una nuova app, Net Guardian, un modello di intelligenza artificiale in grado di rilevare il grado di esposizione al rischio di cyberbullismo nelle conversazioni digitali all’interno del gruppo classe, allo scopo di prevenire eventuali atti di violenza.

Bene, penseranno in molti, finalmente è arrivato il tempo di utilizzare l’Intelligenza Artificiale per scopi nobili, potremo valutarne l’efficacia come strumento utile per il benessere degli adolescenti!

Vero, niente da obiettare. Eppure… permetteteci di avvertire un lieve brivido lungo la schiena. Di paura? No, non proprio, di allarme forse. Una lieve e sotterranea inquietudine si insinua in noi… ma sì, certo, è proprio quel film che Net Guardian ci fa tornare in mente! Un film-culto di Steven Spielberg del 2002, Minority Report, con Tom Cruise, che ci proietta in un prossimo futuro nel quale, basandosi sulle premonizioni di tre individui dotati di poteri extrasensoriali di precognizione amplificati, la polizia speciale precrimine riesce a impedire gli omicidi prima che essi avvengano, arrestando i potenziali “colpevoli”. In questo modo non viene punito il fatto, che non avviene, bensì l’intenzione di compierlo e che porterebbe a concretizzarlo.

Quando la responsabile del progetto Net Guardian dichiara in fase di presentazione – come riporta Famiglia Cristiana – che il valore distintivo del progetto è quello di analizzare le chat in tempo reale e valutare il grado di esposizione al rischio, intercettando i casi prima che sfocino in assetti con conseguenze che possono comportare anche gravi episodi di violenza sia nei confronti propri che di terzi, senza attendere che sia lo studente a esporsi e denunciare l’accaduto, vedete bene che non siamo lontani dalla polizia precrimine di Minority Report.

Così come accade nel film, in cui non sempre i tre ‘veggenti’ sono d’accordo nell’interpretare il futuro, anche l’algoritmo di Machine Learning per l’analisi automatizzata del testo, che è alla base di Net Guardian, potrebbe sbagliare e classificare come potenzialmente molto pericolosa e prossima a generare violenza, una frase che invece non lo è.

Altra possibile deriva della app anti-cyberbullismo: generare un calo d’attenzione  da parte dei docenti nei confronti dei rapporti e delle dinamiche di classe, tanto c’è Net Guardian che ci avvisa se ci sono segnali di violenza nell’aria.

Ora, fermo restando che non vogliamo in alcun modo demonizzare le nuove tecnologie, né tantomeno l’Intelligenza Artificiale – sappiamo, è ovvio, che sono già e che saranno ancor più nei prossimi anni il cuore pulsante della nostra vita – intendiamo qui, semplicemente, fare l’avvocato del diavolo. Saremo anche degli inguaribili ‘romantici’, ma ci piace ancora pensare che le parole, gli sguardi, i sorrisi, gli abbracci e le pacche sulle spalle siano ancora da preferire ai ‘guardiani della Rete’ per prevenire ogni forma di violenza tra adolescenti.