Il 6 dicembre 2022 il Consiglio dell’UE ha adottato la propria proposta in merito all’AI Act finalizzato ad introdurre una regolamentazione europea di sistemi di intelligenza artificiale (AI). Da lì ha preso avvio il processo di negoziazione tra Parlamento e Consiglio europeo per trovare un terreno di accordo comune per l’adozione del documento ufficiale.
Ieri (11 maggio 2023) il parlamento europeo, a livello di commissioni Giustizia e Mercato interno, ha votato l’ordine del giorno sulle “Regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale)” dando il via libera al mandato negoziale sul regolamento Ue sull’intelligenza artificiale.
Le decisioni delle commissioni Giustizia e Mercato interno
Gli emendamenti proposti e votati sono così sintetizzati da una nota dell’ufficio stampa del Parlamento EU:
a) conferma dell’approccio basato su 4 livelli di rischio connessi all’IA (vedi immagine
b) i sistemi di IA che presentano un livello di rischio inaccettabile per la sicurezza delle persone devono essere severamente vietati, compresi i sistemi che utilizzano tecniche subliminali o manipolative intenzionali, sfruttano le vulnerabilità delle persone o sono utilizzati per il social scoring (classificazione delle persone in base al loro comportamento sociale, allo status socio-economico, alle caratteristiche personali)
c) è stato modificato in modo sostanziale l’elenco dei sistemi da vietare così da includere usi intrusivi e discriminatori dei sistemi di IA quali i sistemi di:
- identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico;
- identificazione biometrica a distanza “a posteriori”, con l’unica eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
- categorizzazione biometrica che utilizzano caratteristiche sensibili (ad esempio, sesso, razza, etnia, cittadinanza, religione, orientamento politico);
- polizia predittivi (basati su profili, ubicazione o comportamenti criminali passati);
- riconoscimento delle emozioni nelle forze dell’ordine, nella gestione delle frontiere, nei luoghi di lavoro e nelle istituzioni educative
- scorporo indiscriminato di dati biometrici dai social media o dalle telecamere a circuito chiuso per creare database di riconoscimento facciale (in violazione dei diritti umani e del diritto alla privacy).
d) I deputati delle due commissioni hanno inoltre ampliato la classificazione delle aree ad alto rischio per includere i danni alla salute, alla sicurezza, ai diritti fondamentali o all’ambiente.
e) sono poi stati aggiunti alla lista ad alto rischio i sistemi di IA per influenzare gli elettori nelle campagne politiche e nei sistemi di raccomandazione utilizzati dalle piattaforme di social media (con più di 45 milioni di utenti ai sensi della legge sui servizi digitali).
f) i deputati hanno incluso inoltre obblighi per i fornitori di modelli tipo GPT che devono garantire una solida protezione dei diritti fondamentali, della salute e della sicurezza e dell’ambiente, della democrazia e dello Stato di diritto. Dovrebbero valutare e ridurre i rischi, rispettare i requisiti di progettazione, informazione e ambientali e registrarsi nella banca dati dell’UE.
g) I modelli IA “generative”, come il GPT, dovrebbero rispettare ulteriori requisiti di trasparenza, come la divulgazione del fatto che il contenuto è stato generato dall’IA.
Sostenere l’innovazione e proteggere i diritti dei cittadini.
h) per promuovere l’innovazione dell’IA, i deputati hanno aggiunto esenzioni a queste regole per le attività di ricerca e per i componenti dell’IA forniti con licenze open-source. La nuova legge promuove inoltre sandbox regolamentari, o ambienti controllati, istituiti dalle autorità pubbliche per testare l’IA prima della sua diffusione.
i) da ultimo è viene richiesto di rafforzare il diritto dei cittadini di presentare reclami sui sistemi di IA e di ricevere spiegazioni sulle decisioni basate su sistemi di IA ad alto rischio che hanno un impatto significativo sui loro diritti.
RIVEDI LA DIRETTA
I prossimi passi
Prima che possano iniziare i negoziati con il Consiglio sulla forma finale della legge, la bozza di mandato negoziale elaborata dalle due commissioni deve essere approvata dall’intero Parlamento, con il voto previsto durante la sessione del 12-15 giugno. Poi inizierà il trilogo, ovvero il negoziato con Consiglio europeo e Commissione per arrivare a un testo definitivo.
La UE si conferma così come la prima e più importante istituzione a livello mondiale impegnata a definire con precisione un regolamento dell’Intelligenza Artificiale.
Va del resto in questa direzione anche l’importante documento pubblicato a fine 2022 dalla Commissione Europea denominato “Orientamenti etici per gli educatori sull’uso dell’intelligenza artificiale (IA) e dei dati nell’insegnamento e nell’apprendimento ” davvero molto utile per tutti gli educatori ed i dirigenti di istituzioni educative.
