Papa Francesco è intervenuto oggi al summit de G7 a Borgo Egnazia, in Puglia, partecipando a quattro bilaterali e tenendo poi un discorso nella sessione pleanaria con i leader del mondo.
“Condanneremmo l’umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine”.
In realtà la posizione di Papa Francesco è nota, è già stata espressa più volte (Messaggio su IA e Pace per la giornata mondiale dea pace 2024; messaggio per la 58esima giornata delle comunicazioni sociali ) e si fonda sulla consapevolezza che l’intelligenza artificiale è contemporaneamente uno “strumento affascinante” e “tremendo”, capace di portare benefici o provocare danni come tutti “gli utensili” creati dall’uomo sin dalla notte dei tempi.
Human in the loop – L‘uomo al centro
La riflessione proposta al tavolo del G7 chiarisce come non ci sia pregiudizio alcuno sui progressi scientifici e tecnologici, ma piuttosto il timore di una deriva: “La scienza e la tecnologia sono prodotti straordinari del potenziale creativo di noi esseri umani”, dice papa Francesco. È “dall’utilizzo di questo potenziale creativo che Dio ci ha donato che viene alla luce l’intelligenza artificiale”, strumento “estremamente potente”, sottolinea il Papa, impiegato in tantissime aree dell’agire umano: medicina, lavoro, cultura, comunicazione, educazione, politica.
“È ora lecito ipotizzare che il suo uso influenzerà sempre di più il nostro modo di vivere, le nostre relazioni sociali
e nel futuro persino la maniera in cui concepiamo la nostra identità di esseri umani”.
Perciò, da un lato, entusiasmano le possibilità che l’IA offre; dall’altro, generano timore per le conseguenze che lasciano presagire. Anzitutto per Francesco bisogna distinguere tra una macchina che “può, in alcune forme e con questi nuovi mezzi, produrre delle scelte algoritmiche” e dunque “una scelta tecnica tra più possibilità”, e l’essere umano che, invece, “non solo sceglie, ma in cuor suo è capace di decidere”.
Per questa ragione, di fronte ai prodigi delle macchine, che sembrano saper scegliere in maniera indipendente, dobbiamo aver ben chiaro che all’essere umano deve sempre rimanere la decisione, anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita.
Intelligenza artificiale e guerra
E’ un tema caldissimo quello che tocca il Papa.
Basti pensare, ad esempio, alle discussioni tenute pochi giorni al vertice di esperti di difesa e armi tenutosi a Singapore (Shangri-La Dialogue ) e i particolare l’intervento di Mirjana Spoljaric, Presidente del comitato internazionale della Croce Rossa, che ha evidenziato alcuni terribili dilemmi etici riferiti alle scelte e decisioni autonome e automatiche che alcuni sistemi d’arma attuano sui campi di battaglia senza tener conto delle decisioni umane. E’ il caso, anche, del sistema Lavender utilizzato dall’esercito Israeliano nel conflitto di Gaza.
Da qui l’appello del Papa: mai succeda che siano le macchine ad uccidere l’uomo che le ha create.
“Condanneremmo l’umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine. Abbiamo bisogno – dice ancora Francesco – di garantire e tutelare uno spazio di controllo significativo dell’essere umano sul processo di scelta dei programmi di intelligenza artificiale: ne va della stessa dignità umana”.
Siamo di fronte ad una rivoluzione cognitivo-industriale
Insomma, non si tratta solo di progresso scientifico ma si è davanti ad “una vera e propria rivoluzione cognitivo-industriale, che – afferma Papa Francesco – contribuirà alla creazione di un nuovo sistema sociale caratterizzato da complesse trasformazioni epocali”.
L’intelligenza artificiale potrebbe permettere una democratizzazione dell’accesso al sapere, il progresso esponenziale della ricerca scientifica, la possibilità di delegare alle macchine i lavori usuranti; ma, al tempo stesso, essa potrebbe portare con sé una più grande ingiustizia fra nazioni avanzate e nazioni in via di sviluppo, fra ceti sociali dominanti e ceti sociali oppressi, mettendo così in pericolo la possibilità di una “cultura dell’incontro” a vantaggio di una “cultura dello scarto”.
Lo spazio dell’algoretica
Ma come coniugare “libertà” e “responsabilità” superando la attuale situazione nella quale “l’umanità ha pervertito i fini del suo essere trasformandosi in nemica di sé stessa e del pianeta”.
Oggi “si registra come uno smarrimento o quantomeno un’eclissi del senso dell’umano”, i programmi di intelligenza artificiale “debbono essere sempre ordinati al bene di ogni essere umano”. Devono avere, cioè, “un’ispirazione etica”.
In tal senso il Papa cita favorevolmente la firma a Roma, nel 2020 segnato dalla pandemia, della Rome Call for AI Ethics
e il sostegno a quella forma di moderazione etica degli algoritmicondensata nel neologismo “algoretica”: “Se facciamo fatica a definire un solo insieme di valori globali, possiamo però trovare dei principi condivisi con cui affrontare e sciogliere eventuali dilemmi o conflitti del vivere”.
L’intervento di Papa Francesco è stato molto preciso, tecnico, approfondito. Ed ha toccato aspetti specifici quali ad esempio l’utilizzo dell’intelligenza artificiale nell’esercizio della giustizia, richiamando i rischi connessi a pratiche quali la categorizzazione biometrica vietata anche dall’AI Act dell’Unione Europea.
In generale, dice il papa, “l’intelligenza artificiale è così disegnata per risolvere dei problemi specifici, ma per coloro che la utilizzano è spesso irresistibile la tentazione di trarre, a partire dalle soluzioni puntuali che essa propone, delle deduzioni generali, persino di ordine antropologico”.
Intelligenza artificiale generativa e processi educativi
Papa Francesco ha dedicato anche un passaggio specifico a temo educativo.
Leggiamo integralmente perché davvero molto interessante.
Mi permetto di segnalare, infine, un ultimo ambito in cui emerge chiaramente la complessità del meccanismo della cosiddetta intelligenza artificiale generativa (Generative Artificial Intelligence).
Nessuno dubita che oggi sono a disposizione magnifici strumenti di accesso alla conoscenza che permettono persino il self-learning e il self-tutoring in una miriade di campi. Molti di noi sono rimasti colpiti dalle applicazioni facilmente disponibili on-line per comporre un testo o produrre un’immagine su qualsiasi tema o soggetto. Particolarmente attratti da questa prospettiva sono gli studenti che, quando devono preparare degli elaborati, ne fanno un uso sproporzionato.
Questi alunni, che spesso sono molto più preparati e abituati all’uso dell’intelligenza artificiale dei loro professori, dimenticano, tuttavia, che la cosiddetta intelligenza artificiale generativa, in senso stretto, non è propriamente “generativa”. Quest’ultima, in verità, cerca nei big data delle informazioni e le confeziona nello stile che le è stato richiesto. Non sviluppa concetti o analisi nuove.
Ripete quelle che trova, dando loro una forma accattivante. E più trova ripetuta una nozione o una ipotesi, più la considera legittima e valida. Più che “generativa”, essa è quindi “rafforzativa”, nel senso che riordina i contenuti esistenti, contribuendo a consolidarli, spesso senza controllare se contengano errori o preconcetti.
In questo modo, non solo si corre il rischio di legittimare delle fake news e di irrobustire il vantaggio di una cultura dominante, ma di minare altresì il processo educativo in nuce.
L’educazione che dovrebbe fornire agli studenti la possibilità di una riflessione autentica rischia di ridursi a una ripetizione di nozioni, che verranno sempre di più valutate come inoppugnabili, semplicemente in ragione della loro continua riproposizione”.
Come si può vedere e leggere si tratta di un intervento davvero molto ricco e concreto che sfida le grandi potenze e la loro capacità di regolamentazione dell’intelligenza artificiale. Da qui l’appello di Papa Francesco ad una “sana politica” per il bene comune.
Link al
Testo integrale del discorso
