La governance dell’Intelligenza Artificiale

L’Agenzia dell’Unione europea per i Diritti fondamentali, o FRA – come siamo conosciuti –, è l’agenzia unionale indipendente per la tutela dei diritti umani. Attraverso le nostre competenze, le prove raccolte e i dati, forniamo consulenza sui diritti fondamentali alle istituzioni dell’UE e agli Stati membri, nell’attuazione del diritto dell’Unione.

La regolamentazione delle nuove tecnologie ai fini della tutela dei diritti fondamentali ha molte conseguenze positive, tra cui il miglioramento della qualità dei prodotti e l’aumento della fiducia dei consumatori. Tenendo presenti queste conseguenze positive, dovremmo sfatare l’idea che la regolamentazione debba essere percepita come un onere. 

Nell’UE, il rispetto dei diritti fondamentali non è facoltativo: è un obbligo giuridico. Insieme alla democrazia, allo Stato di diritto, alla dignità, all’uguaglianza e alla libertà, esso è sancito dall’art. 2 del Trattato sull’Unione europea e ulteriormente consolidato nella Carta dei diritti fondamentali – uno strumento di cui ogni Stato membro è parte, in virtù della propria adesione all’Unione. Non possono esserci deroghe né riserve a tali diritti contenuti nella Carta, e ogni legge, politica e attività dell’UE deve conformarsi ad essi. 

Mi concentro sul quadro normativo dell’UE. Illustrerò il ruolo che la FRA svolge in questo contesto, anche attraverso una ricerca approfondita su argomenti quali la valutazione dell’IA ad alto rischio e la digitalizzazione della giustizia[1]. A ciò si aggiunge la ricerca della FRA sull’uso dell’IA nell’identificazione biometrica a distanza a fini di applicazione della legge[2], e quella sugli usi dell’IA a supporto delle decisioni nelle procedure di asilo e immigrazione[3].

La Carta dei diritti fondamentali dell’UE costituisce il fondamento giuridico del quadro di tutela dei diritti fondamentali nell’Unione, e rimane la roadmap generale in materia di diritti fondamentali per quanto riguarda lo sviluppo, l’uso e la regolamentazione dell’IA. Ciò si riflette nel regolamento sull’IA, o AI Act, che afferma esplicitamente che uno dei suoi obiettivi è garantire l’elevato livello di tutela dei diritti fondamentali già sancito dalla Carta. 

A tal fine, l’AI Act prevede una serie di garanzie specifiche a sostegno di tale protezione. A questo proposito, vorrei sottolineare un aspetto chiave: la valutazione dell’impatto dell’IA sui diritti fondamentali. Perché tale valutazione è importante?

Si consideri l’esempio di un sistema di reclutamento, basato sull’IA, che si rivela discriminatorio e privilegia i candidati maschi rispetto a quelli di sesso femminile. Si consideri un sistema di IA utilizzato per determinare le prestazioni sociali che risulta essere così opaco che le persone non riescono a comprendere come sia stata determinata una decisione, né come contestarla. Oppure si consideri un sistema di IA utilizzato per identificare le persone, ma che raccoglie più dati del necessario, o che classifica le persone in base all’origine etnica per un’ulteriore elaborazione, determinando così un’ingerenza ingiustificata nei loro diritti alla privacy.

Questi esempi illustrano la necessità imprescindibile delle valutazioni d’impatto sui diritti fondamentali. Esse sono concepite per aiutare i fornitori e gli utilizzatori a identificare i rischi legati all’uso di un particolare sistema, a mitigarli e a migliorare i propri prodotti e sistemi, rendendo così il sistema più affidabile. 

Ai sensi dell’AI Act, in futuro sia i fornitori che alcuni gestori di sistemi di IA ad alto rischio dovranno effettuare tali valutazioni. La ricerca della FRA ha dimostrato che saranno necessarie indicazioni mirate e significative per coloro che effettuano tali valutazioni. Questo perché le aziende e le amministrazioni raramente dispongono delle competenze necessarie per valutare efficacemente i diritti fondamentali, anche se hanno la volontà di farlo. Le valutazioni devono affrontare le principali preoccupazioni trasversali in materia di diritti fondamentali, vale a dire l’impatto sulla privacy e sulla protezione dei dati, ma anche l’uguaglianza e la non discriminazione, nonché l’accesso a rimedi efficaci. Tuttavia, sappiamo tutti che l’IA può incidere praticamente su ogni diritto umano, a seconda del contesto di utilizzo. Una guida e competenze adeguate possono supportare l’analisi mirata necessaria per identificare quali diritti potrebbero essere interessati in un dato caso.

Sono, inoltre, necessarie ulteriori indicazioni sulle misure di prevenzione e mitigazione delle violazioni dei diritti: la nostra ricerca ha dimostrato come gli approcci attuali siano spesso frammentari e insufficienti. Si osserva una forte dipendenza dalla revisione umana come misura principale per limitare i rischi. La sua efficacia dipende, tuttavia, da come essa viene progettata e applicata. Se un sistema è intrinsecamente difettoso – ad esempio, perché presenta pregiudizi che possono portare alla discriminazione – la supervisione e la revisione umana potrebbero non essere sufficienti per affrontare adeguatamente tali rischi. Non può essere l’unica soluzione per garantire il rispetto dei diritti e deve essere integrata da altre misure. 

La mia agenzia chiede quindi di creare una solida base di dati fattuali, che consenta una migliore comprensione dei rischi per i diritti fondamentali e delle pratiche di mitigazione efficaci.

Inoltre, per rendere queste valutazioni complete, è necessario che vi collaborino esperti in ambito giuridico, tecnico e sociale. I fornitori e gli utilizzatori dovrebbero inoltre ascoltare le persone interessate dai sistemi e le loro organizzazioni rappresentative per garantire che le valutazioni siano progettate e attuate correttamente. Il coinvolgimento delle parti interessate e della società civile sin dalle prime fasi costituisce un supporto fondamentale in tale esercizio. 

La FRA sta attualmente supportando l’Ufficio per l’IA nello sviluppo di un modello per le valutazioni d’impatto sui diritti fondamentali ai sensi dell’AI Act. Inoltre, l’agenzia ha recentemente aderito al Comitato europeo di standardizzazione, che sviluppa gli standard tecnici per l’AI Act. Consideriamo il coinvolgimento della nostra agenzia come un segno di buona volontà e di impegno verso la piena integrazione dei diritti fondamentali nella regolamentazione delle nuove tecnologie.

Passando a un altro punto: sebbene le autovalutazioni siano importanti, possono funzionare correttamente solo se combinate con un’efficace supervisione esterna da parte di organismi indipendenti che dispongano di risorse sufficienti e possiedano le competenze necessarie in materia di diritti fondamentali. Il diritto dell’UE prevede un ruolo significativo per le strutture nazionali di tutela dei diritti umani, vale a dire le autorità di protezione dei dati, gli organismi per la parità, le istituzioni nazionali per i diritti umani, le istituzioni di mediazione e gli organismi di tutela dei consumatori. 

L’AI Act, ai sensi dell’art. 77, conferisce a tali organismi il potere di svolgere un ruolo nella supervisione dell’IA. Molte di queste istituzioni devono svolgere il nuovo ruolo senza alcun aumento delle risorse umane o finanziarie, e molte di esse operano in un panorama frammentato, con numerosi attori che condividono varie responsabilità. Attendo con impazienza di dare il benvenuto a molti attori dell’articolo 77 presso la sede della FRA a Vienna, in autunno, dove discuteremo di queste sfide imminenti e condivideremo innovazioni su come andare a svolgere questo nuovo ruolo.

Per concludere, vorrei sottolineare l’importanza della cooperazione internazionale. L’IA e la sua regolamentazione sono fenomeni globali. Dobbiamo imparare dalle esperienze reciproche. A questo proposito, è meraviglioso sentir parlare degli sforzi di Taiwan, del Canada e della Spagna. Sono curiosa di saperne di più sul lavoro del Parlamento sul “Digital Omnibus” e accolgo con favore la Convenzione quadro sull’IA del Consiglio d’Europa e il lavoro della Commissione sulle tecnologie nuove ed emergenti, in relazione ai quali la FRA è lieta di continuare a cooperare. 

L’AI Act e altre normative UE – quali le leggi in materia di protezione dei dati, uguaglianza e tutela dei consumatori – offrono una grande opportunità per realizzare un’IA migliore, che sia vantaggiosa per tutti. I benefici derivano, da un lato, dal fornire certezza giuridica e orientamenti agli sviluppatori e agli utenti di tali tecnologie e, dall’altro, dall’istituire strutture di governance e supervisione o dal potenziare quelle esistenti. Alla FRA continueremo a utilizzare le nostre indagini e competenze per promuovere questi benefici e per dimostrare che le norme e gli standard consolidati e collaudati in materia di diritti umani possono resistere all’innovazione tecnologica e rafforzarla. 

1. https://fra.europa.eu/en/publication/2025/assessing-high-risk-ai [ndr].

2. https://fra.europa.eu/en/themes/unlawful-profiling [ndr].

3. https://fra.europa.eu/en/themes/borders-and-information-systems [ndr].