Intelligenza artificiale: l'Europa avrà una legge per regolamentarla

Dopo un negoziato fiume di oltre 36 ore, le istituzioni Ue hanno raggiunto l’accordo sull'AI Act (Artificial Intelligence Act), la legge europea sull'intelligenza artificiale (d'ora in poi Ia). Si tratta del primo quadro normativo sui sistemi di Ia nel mondo. Obiettivo della normativa è garantire che l’Ia protegga i diritti fondamentali, la democrazia, lo Stato di diritto e la sostenibilità ambientale, stimolando al tempo stesso l’innovazione e rendendo l’Europa leader nel settore.

Come si vede un «vasto programma», per usare il sarcasmo del generale De Gaulle, e solo il tempo dirà se la normativa raggiungerà il suo scopo o, al contrario, servirà solo a rallentare lo sviluppo dei sistemi di intelligenza artificiale nel vecchio continente. Al tempo stesso, come è accaduto con la legge sulla protezione dei dati degli utenti, la normativa europea probabilmente fisserà uno standard anche per il resto del mondo, se non altro perché le dimensioni del mercato unico non permettono a nessun player del settore, anche il più grande di non tener contro del quadro legislativo europeo.
I negoziatori hanno concordato una serie di salvaguardie e ristrette eccezioni per l’uso di sistemi di identificazione biometrica (Rbi) in spazi accessibili al pubblico a fini di applicazione della legge, previa autorizzazione giudiziaria e per elenchi di reati rigorosamente definiti.
Quanto alle pratiche vietate, la lista dei divieti include i sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili, come le convinzioni politiche, religiose e la razza; la raccolta non mirata di immagini del volto da Internet o da filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale; il riconoscimento delle emozioni sul posto di lavoro e nelle scuole; il social scoring; le tecniche manipolative; l’Ia usata per sfruttare le vulnerabilità delle persone. C'è anche una regolamentazione per cercare di arginare il fenomeno dei cosiddetti «deepfake», cioè immagini (e suoni) generati dall'Ia capaci di ingannare gli utenti facendo credere che una determinata persona ha fatto (o detto) cose che effettivamente non ha detto, fatto e nemmeno pensato. I contenuti generate dai sistemi di Ia dovranno infatti, avere un marchio che li rende facilmente individuabili.

Come si vede anche in questo caso i vincoli sono tanti, ma ampiamente giustificati dai diritti fondamentali dei cittadini da tutelare. L’accordo prevede, inoltre, una serie di obblighi per i sistemi ad alto rischio, tra cui quello di una valutazione dell’impatto sui diritti fondamentali. In questa categoria saranno inseriti anche i sistemi di Ia usati per influenzare l’esito delle elezioni e il comportamento degli elettori. I cittadini, poi, avranno il diritto di presentare reclami sui sistemi di Ia e di ricevere spiegazioni sulle decisioni basate sui sistemi di Ia ad alto rischio che hanno un impatto sui loro diritti. Questo perché, visto che i sistemi di apprendimento partono da base dati esistenti a volte di non eccelsa qualità e molte con un bias sistemico molto accentuato, si rischia di ledere i diritti dei cittadini. Altro punto fondamentale riguarda i guardrail per i sistemi di Ia generale, e in particolare per quelli ad alto impatto con rischio sistemico, per cui sono previsti obblighi più stringenti che vanno dalla valutazione del modello, alla valutazione e mitigazione dei rischi sistemici, alla protezione della sicurezza informatica. Il testo include anche misure a sostegno dell’innovazione e delle Pmi e un regime di sanzioni, con multe che vanno da 35 milioni di euro o il 7% del fatturato globale a 7,5 milioni o l'1,5% del fatturato, a seconda della violazione e delle dimensioni dell’azienda. Come si vede l'impatto del regolamento è molto importante e potrebbe in qualche modo ridurre la carica innovativa di alcune aziende (che rischiano, come detto, anche grosse multe se violeranno i vincoli), ma è anche vero che i diritti dei cittadini vengono prima di ogni altra considerazione. Soprattutto in un settore dove i rischi per il comune cittadino sono molto evidenti. Solo il tempo - e le mosse degli altri player a livello statale -, però, diranno se l'AI Act riuscirà a raggiungere i suoi obiettivi.