Papa Francesco su intelligenza artificiale e pace: “Nuove tecnologie presentano gravi rischi e entusiasmanti opportunità”

Nei giorni scorsi abbiamo commentato il messaggio di Papa Francesco per la 57esima giornata mondiale della pace che si celebra ogni 1 gennaio sottolineando il ruolo essenziale che l’educazione è chiamata a svolgere rispetto all’intelligenza artificiale e alla pace.

In questo approfondimento tentiamo invece di enucleare gli altri aspetti presenti nel messaggio e che interrogano le società contemporanee attraversate dai conflitti armati e dalle guerre.

Opportunità e rischi

L’impostazione del messaggio (il cui testo integrale è reperibile qui)  ricalca la saggezza con la quale negli ultimi decenni la Chiesa ha seguito il tema delle nuove tecnologie. Scrive così Francesco: “I notevoli progressi delle nuove tecnologie dell’informazione, specialmente nella sfera digitale, presentano dunque entusiasmanti opportunità e gravi rischi, con serie implicazioni per il perseguimento della giustizia e dell’armonia tra i popoli. È pertanto necessario porsi alcune domande urgenti. Quali saranno le conseguenze, a medio e a lungo termine, delle nuove tecnologie digitali? E quale impatto avranno sulla vita degli individui e della società, sulla stabilità internazionale e sulla pace?”.

Da una parte, quindi, “entusiasmanti opportunità” e dall’altra, “gravi rischi”, come l’uso sregolato delle cosiddette armi “intelligenti”, il pericolo di attacchi terroristici, la promozione della “follia della guerra” o interventi volti a destabilizzare istituzioni di governo legittime, arrivando, ad esempio, a condizionare elezioni politiche.

No alla follia della guerra

Il messaggio del Papa si muove dunque entro binari conosciuti della teologia cattolica: “La dignità intrinseca di ogni persona e la fraternità che ci lega come membri dell’unica famiglia umana devono stare alla base dello sviluppo di nuove tecnologie e servire come criteri indiscutibili per valutarle prima del loro impiego, in modo che il progresso digitale possa avvenire nel rispetto della giustizia e contribuire alla causa della pace. Gli sviluppi tecnologici che non portano a un miglioramento della qualità di vita di tutta l’umanità, ma al contrario aggravano le disuguaglianze e i conflitti, non potranno mai essere considerati vero progresso”.

Intelligenza artificiale: una sfida prima di tutto culturale

“L’intelligenza artificiale diventerà sempre più importante. Le sfide che pone sono tecniche, ma anche antropologiche, educative, sociali e politiche”: così scrive il Papa, sottolineando con forza la necessità di elaborare risposte che si collochino allo stesso livello delle sfide, ovvero capaci di generare nuova cultura, nuova etica, nuova educazione.

I passaggi successivi sono così chiarissimi e si snocciolano con una logica stringente entro cui si sentono interagire le ricerche del maggiore esperto in area ecclesiale su questi temi, Paolo Benanti.

Il punto 3 (La tecnologia del futuro: macchine che imparano da sole) affronta il tema del Machine Learning, del Deep Learning e della intelligenza artificiale generativa sottolineando i rischi di un uso non rispettoso della privacy e le possibili ricadute negative, anche in ambito politico, derivante dalle fake news.

Il punto 4, richiamando uno dei cardini del pensiero di Francesco che è il cuore sia della Enciclica Laudato sì che della recente esortazione apostolica Laudate Deum, si concentra sul paradigma tecnocratico che “allea l’economia con la tecnologia e privilegia il criterio dell’efficienza, tendendo a ignorare tutto ciò che non è legato ai suoi interessi immediati”. Da qui la necessità di ripartire dalla accettazione del senso del limite: “l’essere umano, infatti, mortale per definizione, pensando di travalicare ogni limite in virtù della tecnica, rischia, nell’ossessione di voler controllare tutto, di perdere il controllo su sé stesso; nella ricerca di una libertà assoluta, di cadere nella spirale di una dittatura tecnologica. Riconoscere e accettare il proprio limite di creatura è per l’uomo condizione indispensabile per conseguire, o meglio, accogliere in dono la pienezza. Invece, nel contesto ideologico di un paradigma tecnocratico, animato da una prometeica presunzione di autosufficienza, le disuguaglianze potrebbero crescere a dismisura, e la conoscenza e la ricchezza accumularsi nelle mani di pochi, con gravi rischi per le società democratiche e la coesistenza pacifica”.

Il punto 5 (Temi scottanti per l’etica) analizza le conseguenze derivanti dalla sfida dell’Intelligenza artificiale dal punto di vista etico con specifici e concretissimi riferimenti a temi in discussione anche in questi giorni in sede di Unione Europea in vista della definizione dell’AI Act.

Trasformeremo le spade in vomeri?

L’Intelligenza artificiale ha un grande impatto anche sui sistemi d’arma, sulle tecnologie militari e sulla concreta conduzione delle guerre. Da qui la constatazione di Papa Francesco: “La ricerca sulle tecnologie emergenti nel settore dei cosiddetti “sistemi d’arma autonomi letali”, incluso l’utilizzo bellico dell’intelligenza artificiale, è un grave motivo di preoccupazione etica. I sistemi d’arma autonomi non potranno mai essere soggetti moralmente responsabili: l’esclusiva capacità umana di giudizio morale e di decisione etica è più di un complesso insieme di algoritmi, e tale capacità non può essere ridotta alla programmazione di una macchina che, per quanto “intelligente”, rimane pur sempre una macchina. Per questo motivo, è imperativo garantire una supervisione umana adeguata, significativa e coerente dei sistemi d’arma”.

Nel 2020 il Papa aveva parlato di algoretica e qui ne riprende il concetto cardine chiedendo “un dialogo interdisciplinare finalizzato a uno sviluppo etico degli algoritmi in cui siano i valori a orientare i percorsi delle nuove tecnologie. Le questioni etiche dovrebbero essere tenute in considerazione fin dall’inizio della ricerca, così come nelle fasi di sperimentazione, progettazione, produzione, distribuzione e commercializzazione. Questo è l’approccio dell’etica della progettazione, in cui le istituzioni educative e i responsabili del processo decisionale hanno un ruolo essenziale da svolgere”.