Governance algoritmica, lo scandalo degli assegni per l'infanzia nei Paesi Bassi e l'importanza della mobilitazione giuridica

1. Digitalizzazione, IA e dataficazione / 2. Governance algoritmica / 3. Diritti umani e giustizia dei dati / 4. Caso di studio: il sistema olandese SyRI e lo scandalo dei sussidi / 5. La Coalizione civica / 6. Osservazioni conclusive

1. Digitalizzazione, IA e dataficazione

In nome dell’efficienza, dell’efficacia e della fiducia sociale, i governi e la pubblica amministrazione ricorrono sempre più spesso a forme di digitalizzazione e all’uso di algoritmi nell’attuazione delle politiche. L’uso di strumenti digitali e algoritmici può essere correlato a tendenze diverse, in qualche modo sovrapposte. Tali tendenze includono: a) il crescente ricorso a grandi insiemi di dati e big data, che contribuiscono alla quantificazione della governance; b) il maggiore utilizzo di strumenti digitali non umani per sfruttare tali dati, in particolare sotto forma di algoritmi, e l’uso dell’IA e dell’apprendimento automatico; c) una maggiore fiducia nella possibilità di prevenzione mediante strumenti predittivi; d) la priorità data all’efficienza rispetto alle considerazioni di giustizia e ai diritti individuali.

Nel mondo contemporaneo, con l’avanzata di Internet, dei social media e di ulteriori strumenti digitali, l’informatizzazione, la digitalizzazione e la dataficazione sono fenomeni sempre più onnipresenti (Diaz-Bone 2019: 77). Nozioni come “big data”, “data mining”, “governance algoritmica” o “governance basata sui numeri” e “cultura dell’audit” sono spesso utilizzate per descrivere un mondo sempre più guidato da numeri e dati. Per quanto riguarda la pubblica amministrazione, ciò significa un avanzamento della “governance basata sui numeri”, in cui i governi utilizzano e producono sempre più set di dati, al fine di «rappresentare, analizzare e monitorare i propri cittadini» (Diaz-Bone 2019: 78). Enormi quantità di dati vengono raccolte da organizzazioni statali, nonché da attori privati o semiprivati, che utilizzano questi dati per forme di controllo, sorveglianza e prevenzione dei rischi, o per trarne profitto (Diaz-Bone 2019: 78). 

La combinazione di dataficazione e digitalizzazione comporta un enorme aumento delle possibilità di sorveglianza estesa da parte dello Stato. Schuilenburg, infatti, interpreta le società moderne come «società dominate dalla sorveglianza» (2024: 36). La combinazione di digitalizzazione e IA può essere intesa come una «nuova infrastruttura» o «tecnologia di sistema» con un «effetto sistemico per l’intera società» (Schuilenburg 2024: 37). La digitalizzazione implica anche la rapida espansione della dataficazione, ovvero l’aumento della conversione del comportamento in punti dati (Schuilenburg 2024: 39). Attraverso mezzi digitali capillari, il flusso di dati digitali è continuo. I dati sono raccolti sia per scopi specifici, sia attraverso processi automatizzati, ed è in particolare l’accumulo di vari set di dati (raccolti per scopi specifici e individuali) a creare potenziali violazioni della privacy individuale. Le società contemporanee possono essere intese come soggette a una “dataveillance” in cui il comportamento viene continuamente monitorato, registrato e profilato, senza che gli individui si rendano conto che il processo è in atto (Schuilenburg 2024: 39). Gli individui vengono inseriti in diverse categorie, in base ai loro profili, in un processo di “social sorting” (Schuilenburg 2024: 40). Con l’espansione di queste nuove forme di governance dei dati e algoritmica, il «riconoscimento pubblico e l’uso dei numeri come rappresentazioni sociali si sono progressivamente distaccati dal controllo sociale e dalla conoscenza delle condizioni di produzione dei dati» (Diaz-Bone 2019: 78). Gli individui non sono consapevoli del loro “doppio digitale”, spesso non sanno come e quando i dati vengono raccolti, il che sminuisce la posizione del cittadino come “soggetto autonomo e sovrano” (Schuilenburg 2024: 40). 

Diaz-Bone, basandosi sul lavoro di Foucault sul panotticismo, ha suggerito la nozione di «panotticismo statistico», indicando un «dispositivo recente e potente per la governance di sé e degli altri» (Diaz-Bone 2019: 79). La dataficazione e la quantificazione sono ormai una parte predominante nei processi di governance statale e consentono alle autorità di profilare e sorvegliare i cittadini senza che questi ne siano consapevoli. Il panotticismo statistico non solo implica una sorveglianza sempre più estesa dei cittadini riguardo al comportamento passato (ad esempio, quando si richiedono sussidi sociali), ma è sempre più orientato alla previsione e alla prevenzione. Ciò è particolarmente evidente nelle forme di governance anticipatoria basate sull’IA, ad esempio nei contesti urbani, dove i dati in tempo reale interagiscono con l’analisi e la previsione dei dati da parte dell’IA (Cugurullo e Yu 2025). 

2. Governance algoritmica

I big data, gli algoritmi e l’apprendimento automatico sono sempre più al centro della moderna amministrazione pubblica e della governance. La governance pubblica è sempre più guidata dai dati e basata sull’uso di algoritmi, per le ragioni dichiarate di efficienza, efficacia (Duberry 2022) e individuazione e prevenzione delle frodi. L’applicazione di strumenti digitali e IA dovrebbe aumentare l’efficienza e l’efficacia nei compiti governativi, migliorare le procedure e i processi coinvolti e aumentare la qualità dei servizi pubblici (Duberry 2022: 15). L’uso di big data, algoritmi e apprendimento automatico consente di individuare modelli e di generare automaticamente valutazioni, previsioni e decisioni sulla base di essi (Diaz-Bone e Schrör 2022: 25). L’enfasi su efficacia ed efficienza è, tuttavia, in netto contrasto con le questioni di giustizia sociale e di «negoziabilità sociale» (Issar e Aneesh 2021: 4).

L’automazione e la digitalizzazione della pubblica amministrazione sono, in una certa misura, un processo difficile da evitare nelle società moderne su larga scala (Diaz-Bone e Schrör 2022). Il problema, tuttavia, sorge quando l’uso delle tecnologie digitali si sviluppa in modo tale da «consentire di aggirare la negoziazione in qualsiasi processo sociale» (Issar e Aneesh 2021: 5). In altre parole, la digitalizzazione del sistema porta a forme di processo decisionale, sorveglianza e monitoraggio che non sono più direttamente sotto la supervisione degli esseri umani e che sono opache in termini di come le decisioni vengono effettivamente prese, e quindi difficili da rendere responsabili. Come sostengono Issar e Aneesh nella loro discussione sulla governance algoritmica, «le operazioni algoritmiche potrebbero riorganizzare e ristrutturare le relazioni di potere e le istituzioni a scapito degli emarginati e degli indigenti, ovvero di coloro che hanno minori capacità di esaminare e contrastare le forme di ordine sociale mediante algoritmi» (Issar e Aneesh 2021: 6). 

La governance algoritmica tende a essere opaca per ragioni tecnologiche e tecnocratiche/legate alla competenza. Molti osservatori descrivono la governance algoritmica come affetta da «caratteristiche da scatola nera», ovvero «pochissimi esperti riescono a comprendere come funzionano i sistemi di IA più complessi, le loro righe di codice si evolvono con l’aumentare dei dati che vengono loro forniti… e sono difficili da sottoporre a revisione» (Duberry 2022: 15). I processi di utilizzo degli algoritmi sviluppano (sempre più) una logica interna che non è completamente accessibile alla comprensione o al controllo da parte degli esseri umani. Ma la governance algoritmica si rivela non trasparente e opaca anche a causa di decisioni amministrative esplicite, volte a mantenere nascosto il funzionamento degli algoritmi e a utilizzarli a fini di sorveglianza e profilazione (Issar e Aneesh 2021: 6-7).

Si può sostenere che la governance algoritmica costituisca una nuova modalità di governo. Mentre la governance tradizionale si basava su processi guidati dal mercato o dall’autorità/gerarchia, la governance algoritmica opera in modo diverso. È vero che esiste una certa affinità con le modalità gerarchiche di governo, in termini di definizione delle regole dall’alto verso il basso e di applicazione della conformità (Kango 2025: 5). Tuttavia, a differenza delle forme gerarchiche di governance, con «catene di autorità identificabili», «le gerarchie algoritmiche sono spesso opache e automatizzate, il che le rende meno visibili ma altamente pervasive» (Kango 2025: 5). Inoltre, la governance algoritmica presenta una serie di caratteristiche uniche. In primo luogo, la sua completezza, nel senso che assume in modo globale interi compiti e utilizza enormi quantità di dati. In secondo luogo, la governance algoritmica opera in modo istantaneo, consentendo il rapido adeguamento delle regole, fornendo feedback e apprendendo sulla base di input continui. In terzo luogo, la governance algoritmica non è statica, ma interagisce con gli utenti e adatta il proprio funzionamento di conseguenza. E in quarto luogo, come già osservato, la governance algoritmica opera sulla base dell’invisibilità, il che significa che diventa più difficile garantire la responsabilità e contestare le decisioni politiche (Kango 2025: 6-7).

Issar e Aneesh individuano tre principali aree di preoccupazione nei sistemi algoritmici: sorveglianza, pregiudizi sociali e identità individuale (2021: 7). La governance algoritmica si basa, di per sé, su forme di quantificazione che comportano la semplificazione, la classificazione, il confronto e la valutazione di fenomeni sociali complessi, e, in relazione agli esseri umani, si traduce in forme di “profilazione” sulla base di insiemi di dati e punti scollegati tra loro. La dataficazione dei fenomeni sociali e dei comportamenti può portare a forme di disumanizzazione. La sorveglianza comporta forme di perdita di privacy, ma vede anche forme più intense di “dominio asimmetrico”, poiché chi è sotto sorveglianza potrebbe non esserne consapevole (2021: 7).

La governance algoritmica può comportare gravi forme di pregiudizio sociale, in quanto le forme esistenti di discriminazione e le disuguaglianze sociali possono essere amplificate. Il pregiudizio può derivare da input problematici e distorti («garbage in, garbage out», Issar e Aneesh 2021: 8), ma può anche essere il risultato dei valori e dei principi dei programmatori nel processo di codifica, nonché del modo in cui vengono programmate la quantificazione e la categorizzazione di persone, oggetti ed eventi (Diaz-Bone e Schrör 2022: 26). Infatti, gli algoritmi non sono dispositivi neutri e privi di contesto, ma sono creati dagli esseri umani. In quanto tale, la governance algoritmica «può essere concepita come il potere di classificare e quantificare persone, oggetti ed eventi sulla base delle convenzioni sociali su come categorizzare e quantificare» (Diaz-Bone e Schrör 2022: 26). La governance algoritmica può quindi contribuire a rendere ancora più radicate le forme di disuguaglianza e discriminazione attraverso processi automatizzati di selezione e di decisione.

La governance algoritmica ha, inoltre, importanti implicazioni per l’identità individuale e l’autoidentificazione. Come sostengono Issar e Aneesh, i big data e l’apprendimento automatico tramite algoritmi raccolgono dati senza uno scopo specifico, portando alla profilazione e all’identificazione di modelli di comportamento non correlati alle identità effettive delle singole persone. Le persone vengono quindi associate a “identità di sistema” separate di cui non sono consapevoli (Issar e Aneesh 2021: 9) e che possono essere in netto contrasto con la percezione che le persone hanno di sé. Ciò può portare a identificazioni arbitrarie nei sistemi algoritmici che si concentrano sui modelli di relazione, ma non sulle persone reali e sulle loro identità (Issar e Aneesh 2021: 9).

3. Diritti umani e giustizia dei dati

La governance algoritmica tende ad avere importanti implicazioni per una serie di diritti umani fondamentali. Come indicato dal Consiglio d’Europa, vi sono forti riserve riguardo all’opacità e alla natura imprevedibile degli algoritmi utilizzati nei processi di governance automatizzata (CoE 2018: 10). Al di là di tali preoccupazioni generali, e in relazione all’impatto specifico della governance algoritmica, secondo il CoE i seguenti ambiti dei diritti umani sono influenzati dall’uso degli algoritmi: processo equo e giusto; privacy e protezione dei dati; libertà di espressione; libertà di riunione e di associazione; ricorso effettivo; divieto di discriminazione; diritti sociali e accesso ai servizi pubblici; diritto a elezioni libere (CoE 2018). Il CoE riconosce che questo non è un elenco esaustivo e che sono possibili altre forme di impatto, in relazione praticamente a qualsiasi diritto umano, compreso il diritto alla vita (CoE 2018: 32-3). 

Nell’ambito più circoscritto della governance algoritmica (piuttosto che nell’uso degli algoritmi in sé), è possibile individuare una serie di preoccupazioni prevalenti in materia di diritti umani. Il primo e più significativo ambito riguarda il diritto alla privacy e alla protezione dei dati. Come affermato nell’articolo 8 («Diritto al rispetto della vita privata e familiare») della CEDU: 

«1. Ogni persona ha diritto al rispetto della sua vita privata e familiare, del suo domicilio e della sua corrispondenza. 

2. Non vi avrà ingerenza da parte di un’autorità pubblica nell’esercizio di questo diritto, salvo quelle previste dalla legge e necessarie in una società democratica nell’interesse della sicurezza nazionale, della pubblica sicurezza o del benessere economico del Paese, per la prevenzione di disordini o reati, per la tutela della salute o della morale, o per la tutela dei diritti e delle libertà altrui».

Come indicato nell’art. 8(2) della CEDU, l’ingerenza nell’esercizio del diritto alla privacy può essere giustificata solo in casi specifici, e tale ingerenza deve essere proporzionata ed equilibrata. Il diritto alla privacy è fondamentale in relazione alla governance algoritmica e ai big data (Bekker 2020: 297), poiché la governance orientata ai dati utilizza set di dati esistenti e separati e li collega tra loro, portando a potenziali problemi di proporzionalità e a forme potenzialmente arbitrarie di azioni di governance. Come afferma l’articolo 8, par. 2 della CEDU, l’ingerenza nella vita privata da parte delle autorità pubbliche deve avvenire rigorosamente nei limiti previsti dalla legge e può essere giustificata, tra l’altro, solo in nome della sicurezza nazionale, della sicurezza pubblica, del disordine e della criminalità, o della tutela dei diritti e delle libertà altrui. L’abbinamento di dati su larga scala, ovvero il collegamento di dati personali raccolti da varie autorità pubbliche, può essere giustificato solo se sussistono esigenze sociali chiare e pressanti in tal senso (Bekker 2020: 298). La raccolta di dati personali per scopi specifici può essere legittima, ma l’abbinamento di vari set di dati facilita forme più o meno estese di profilazione che possono andare ben oltre lo scopo originario della singola raccolta di dati. 

Questioni quali la trasparenza, la disponibilità di informazioni, la spiegabilità di come e quando vengono utilizzati gli algoritmi, la costruzione e l’uso di indicatori di rischio e il collegamento di set di dati isolati rivestono un’importanza cruciale (cfr. Rachovitsa e Johann 2022: 2-3). Il diritto alla privacy va, quindi, di pari passo con il diritto dei cittadini all’informazione e alla trasparenza nell’applicazione dei metodi di governance. I cittadini dovrebbero poter sapere come e quando i loro dati vengono utilizzati e per quali scopi specifici. 

Un secondo ambito di grande preoccupazione è quello della non discriminazione, basata ad esempio sull’origine sociale, la proprietà o altro status, e in relazione al diritto alla privacy nonché al diritto alla sicurezza sociale. «L’analisi predittiva, gli algoritmi e altre forme di IA rischiano fortemente di riprodurre ed esacerbare i pregiudizi riflessi nei dati e nelle politiche esistenti» (Rachovitsa e Johann 2022: 12). La ricerca indica che la digitalizzazione e la governance algoritmica possono avere effetti discriminatori su gruppi specifici, in particolare sulle comunità vulnerabili (Rachovitsa e Johann 2022: 12). Secondo Rachovitsa e Johann, tuttavia, le «difficoltà nel dimostrare l’effetto discriminatorio (potenziale) dei sistemi algoritmici mettono in dubbio che le norme sulla protezione dei dati e i diritti umani internazionali, nella loro forma attuale, siano adeguati ad affrontare i rischi che incombono su gruppi specifici» (2022: 13). 

Un terzo ambito di grande rilevanza è il diritto al ricorso e all’accesso alla giustizia. Secondo il Consiglio d’Europa, gli Stati dovrebbero «garantire che gli individui abbiano accesso a procedure giudiziarie o di altro tipo in grado di decidere in modo imparziale sulle loro denunce relative a violazioni dei diritti umani online, compresi meccanismi extragiudiziali efficaci, mezzi amministrativi o di altro tipo per ottenere un rimedio, ad esempio attraverso le istituzioni nazionali per i diritti umani» (2018: 23). Tali meccanismi includono efficaci canali di reclamo, ma anche la trasparenza e l’accesso alle informazioni riguardo a specifiche pratiche politiche. In particolare, nel contesto della governance algoritmica, il diritto al ricorso e l’accesso alla giustizia possono essere influenzati negativamente: «La natura delle decisioni prese in modo automatico, senza o con scarso intervento umano, e con una priorità data all’efficienza piuttosto che al pensiero umano-contestuale, significa che grava un onere ancora maggiore sulle organizzazioni che impiegano tali sistemi per fornire alle persone interessate un modo per ottenere un rimedio» (CoE 2018: 24).

4. Caso di studio: il sistema olandese SyRI e lo scandalo dei sussidi

L’uso di algoritmi, IA, grandi set di dati e forme di previsione del rischio nelle politiche pubbliche, da parte di governi e autorità pubbliche, sta aumentando in modo esponenziale. Un’area importante in cui la digitalizzazione è prominente è quella dello stato sociale e dei servizi sociali, nonché dell’erogazione di sussidi sociali e assistenziali. In nome dell’equità, dell’efficienza e dell’efficacia, le politiche pubbliche sono guidate dalla digitalizzazione, da grandi set di dati e dall’uso di algoritmi e IA per «automatizzare, prevedere, sorvegliare, individuare, mirare e punire» (ONU 2019, in: Bekker 2020: 290). Tali politiche, tuttavia, aumentano il rischio di produrre esiti in contrasto con i diritti umani. 

Il caso di studio qui discusso è un importante esempio di violazione dei diritti umani su larga scala – con notevoli conseguenze politiche[1] e giuridiche – dovuta a una politica pubblica basata sulla governance algoritmica, con una dimensione di rilievo rappresentata da una sentenza del tribunale che identifica importanti violazioni dei diritti sanciti dalla CEDU[2]. Il caso in esame riguarda l’utilizzo del sistema digitale denominato “System Risk Indication” (SyRI) da parte delle autorità fiscali olandesi, in particolare nel contesto specifico delle frodi previdenziali. Il SyRI è stato creato con uno scopo specifico: individuare e contrastare le frodi nei quartieri vulnerabili dei Paesi Bassi. Nell’ambito del sistema SyRI, i cittadini olandesi sono stati sorvegliati a loro insaputa, senza sapere quale tipo di comportamento potesse far sorgere il sospetto ufficiale di frode (Bekker 2020: 292). 

Qui esamineremo in particolare l’applicazione di SyRI nel contesto dei sussidi statali per l’utilizzo dei servizi di assistenza all’infanzia da parte dei genitori. Ciò ha portato al “Toeslagenaffaire”, ovvero lo scandalo olandese degli assegni per l’assistenza all’infanzia (Hadwick e Lan 2021), che ha coinvolto più di 35.000 genitori. Secondo Hadwick e Lan, lo scandalo è un «esempio da manuale di governance algoritmica fallita» e di «ingiustizia senza precedenti» (2021: 610). Uno dei fattori scatenanti principali della politica rigida e invasiva in materia di sussidi per l’assistenza all’infanzia è stata la tempesta mediatica intorno alla cd. «frode dei bulgari»[3] nel 2013. Le principali vittime dello scandalo degli assegni per l’assistenza all’infanzia sono stati i genitori che hanno dovuto affrontare richieste di recupero da parte delle autorità fiscali di ingenti somme di sussidi ricevuti. Il sistema olandese di assistenza all’infanzia eroga un’indennità in anticipo, con l’importo finale calcolato alla fine dell’anno. Inoltre, l’ammontare dei sussidi varia in base alle variazioni del reddito percepito (Hadwick e Lan 2021: 612). Al fine di prevenire le frodi, le autorità fiscali olandesi hanno sviluppato un approccio “tutto o niente”, il che significa che, anziché recuperare solo una parte delle prestazioni in caso, ad esempio, di irregolarità riscontrate, l’intera somma (un intero anno di prestazioni) veniva recuperata in caso di sospetta frode (Hadwick e Lan 2021: 613). 

Una dimensione fondamentale dell’intera politica era l’uso di algoritmi nella verifica dei genitori beneficiari di sussidi per l’assistenza all’infanzia. È stato applicato un “sistema di gestione del rischio” (RMS) basato sull’apprendimento automatico per preselezionare i genitori da sottoporre a verifica. Il sistema selezionava specifiche agenzie con alti livelli di frode, spesso in quartieri svantaggiati, dove spesso vivono persone con un background migratorio. Sulla base di un numero relativamente esiguo di indicatori, quali la distanza tra il domicilio e la struttura di assistenza all’infanzia o il background straniero dei beneficiari, i genitori venivano selezionati per la verifica (Hadwick e Lan 2021: 621). 

Lo scandalo degli assegni per l’assistenza all’infanzia comporta varie tensioni con la legge e violazioni dei diritti umani. Un primo aspetto è la sproporzionalità nell’attuazione delle politiche di assistenza all’infanzia. Come accennato, ciò in pratica può aver significato che, semplicemente a causa di un errore amministrativo o burocratico, un beneficiario avrebbe dovuto rimborsare l’intero importo annuale delle prestazioni, che poteva ammontare a decine di migliaia di euro (Hadwick e Lan 2021: 612). Un secondo aspetto è la mancanza di accesso all’informazione e alla giustizia. Si può sostenere che gli articoli 6 e 13 della Convenzione europea dei diritti dell’uomo siano rilevanti, in termini di diritto a un processo equo e a un ricorso effettivo (Hadwick e Lan 2021: 615). Le autorità fiscali olandesi hanno commesso una serie di violazioni, ovvero hanno utilizzato un approccio di gruppo anziché individuale (ad esempio, attraverso la profilazione etnica), non hanno fornito decisioni motivate ai beneficiari e non hanno concesso il diritto di essere ascoltati, rendendo impossibile opporsi alle decisioni (Hadwick e Lan 2021: 616, 618). Un’ulteriore violazione riguarda il diritto alla privacy (art. 8 CEDU) e la protezione dei dati dei beneficiari di prestazioni sociali. Ciò è direttamente rilevante per la governance algoritmica, poiché i beneficiari non avevano alcun modo di accedere ai dati conservati dall’amministrazione, compreso il modo in cui gli individui sono stati profilati. Inoltre, il modo in cui gli algoritmi operano, sulla base del tipo di input iniziale e delle forme di apprendimento automatico durante il funzionamento, rende molto difficile attribuire la responsabilità alle autorità (Hadwick e Lan 2021: 625). 

Nel 2018, cinque organizzazioni olandesi per i diritti umani e della società civile, nonché due personalità pubbliche (giornalisti e intellettuali), insieme a un importante sindacato, hanno avviato un procedimento contenzioso contro lo Stato olandese presso il Tribunale distrettuale dell’Aia, sulla base di denunce relative a varie violazioni dei diritti umani sanciti dalla CEDU, dalla Carta europea dei diritti fondamentali (CEDF) e dal Regolamento generale sulla protezione dei dati (GDPR)[4]. Il 5 febbraio 2020, il tribunale ha emesso la sentenza nella causa NJCM et al. c. Paesi Bassi. Il Tribunale ha sostenuto che lo Stato olandese non è riuscito a «trovare il giusto equilibrio tra i benefici che l’uso di tali tecnologie [algoritmi, SyRI] apporta in termini di prevenzione e lotta contro le frodi» e «la potenziale interferenza con l’esercizio del diritto al rispetto della vita privata derivante da tale uso» (ECLI 2020). La Corte ha sostenuto che, «ai sensi della legislazione, tutte le persone dovrebbero poter nutrire la ragionevole aspettativa che la loro vita privata sia sufficientemente rispettata quando viene applicato SyRI. La Corte ritiene che la legislazione su SyRI non soddisfi tale requisito». Infatti, «la normativa SyRI non soddisfa il requisito stabilito dall’articolo 8, paragrafo 2, della CEDU, secondo cui l’ingerenza nell’esercizio del diritto al rispetto della vita privata deve essere necessaria, proporzionata e sussidiaria rispetto allo scopo perseguito» (ECLI 2020). Il Tribunale ritiene che la normativa non raggiunga il «giusto equilibrio» richiesto dalla CEDU tra l’interesse sociale che la normativa persegue e la violazione della vita privata a cui essa dà origine, affinché tale violazione possa essere qualificata come sufficientemente giustificabile, tenuto conto dei principi fondamentali alla base della protezione dei dati ai sensi del diritto dell’Unione (la Carta e il GDPR) – in particolare, i principi di trasparenza, limitazione delle finalità e minimizzazione dei dati (ECLI 2020).

5. La Coalizione civica

La sentenza del Tribunale distrettuale dell’Aia è il risultato di un’azione a lungo termine della società civile e dimostra la grande importanza delle forme di mobilitazione sociale, politica e giuridica per rendere noti e contrastare gli esiti negativi della governance algoritmica. Come affermato in un recente progetto di ricerca sugli algoritmi e la governance algoritmica (The Human Error Project) dell’Università di San Gallo: «Negli ultimi cinque anni abbiamo assistito all’emergere di molteplici dibattiti sulle implicazioni per i diritti umani dell’IA e della profilazione algoritmica. Questi dibattiti sono stati spesso avviati e rafforzati dal lavoro di sensibilizzazione delle organizzazioni della società civile, che hanno concentrato le loro energie e azioni sulla presa di coscienza dell’opinione pubblica, dei responsabili politici e dei media riguardo all’ingiustizia algoritmica» (Scharenberg, Barassi e Di Salvo 2024: 5)[5]. Le organizzazioni della società civile agiscono come “guardiani” o forze “controdemocratiche”, esaminando e monitorando le politiche governative in materia di sorveglianza, profilazione, previsione del rischio e processo decisionale automatizzato.

Nel caso dello scandalo olandese degli assegni per l’infanzia, nel 2016 si è costituita una Coalizione civica, nata dalla mobilitazione di diverse organizzazioni della società civile[6], al fine di chiamare le autorità a rispondere delle proprie azioni e informare il grande pubblico sulle implicazioni negative e sulle conseguenze per i diritti umani della governance algoritmica. Questa coalizione ha avuto inizio con la presentazione di una richiesta di accesso alle informazioni (FOI) al Ministro degli affari sociali e dell’occupazione nel 2017, per poi passare alla mobilitazione legale e al contenzioso strategico nel 2018.

La mobilitazione legale è un fenomeno che sta acquisendo sempre maggiore importanza nei Paesi europei e a livello europeo. Essa include il “contenzioso strategico” o l’«uso dell’azione legale per ottenere determinati cambiamenti sociali, politici o giuridici» (Handmaker 2026: 5). È necessario riconoscere che la dimensione strettamente legale del contenzioso è spesso accompagnata da altre forme di azione, volte ad informare e coinvolgere il pubblico, nonché a cercare un impatto politico. Come affermato in precedenza, nel contesto della governance algoritmica la mobilitazione politica e giuridica guidata dalla società civile riveste grande importanza per la tutela dei diritti umani. In lavori precedenti ho proposto che la mobilitazione giuridica dei movimenti sociali possa essere suddivisa in (una combinazione delle) seguenti azioni (Blokker 2012; 2020): 

a) contenzioso in tribunale: attori individuali e collettivi intraprendono procedimenti giudiziari e/o amministrativi per perseguire obiettivi relativi ai diritti umani e alle rivendicazioni legali; 

b) campagne di sensibilizzazione, attività di lobbying e coinvolgimento delle istituzioni politiche: le strategie giuridiche degli attori sociali collettivi includono l’interazione con le istituzioni pubbliche e il loro coinvolgimento al fine di promuovere obiettivi politico-giuridici (come la tutela dei diritti umani);

c) mobilitazione e avanzamento di rivendicazioni politiche e giuridiche: organizzazione di raduni pubblici (fori deliberativi), proteste di piazza (in nome della tutela dei diritti umani), presentazione di rivendicazioni giuridiche/di responsabilità nel dibattito pubblico, nonché riferimenti ad accordi/convenzioni internazionali o ad altri ambiti giuridici e costituzionali. I destinatari delle rivendicazioni includono sia le istituzioni che la sfera pubblica in generale.

L’elenco non è esaustivo e queste diverse forme di azione sono spesso utilizzate in modo parallelo o sequenziale. 

In linea con quanto proposto nella letteratura sulla mobilitazione politica e giuridica (ad esempio: Anagnostou 2014; Boutcher e McCammon 2018; Bürli 2018; Cichowski 2007; Conant et al. 2018; De Búrca et al. 2022; Handmaker 2026), gli obiettivi della Coalizione civica olandese, che includeva un’organizzazione di avvocati, erano almeno duplici (Wieringa 2023: 14). In primo luogo, la dimensione “tattica” o “pubblica” della mobilitazione mirava a informare l’opinione pubblica e a mobilitare l’impegno dei cittadini in difesa dei diritti individuali; questo approccio includeva una richiesta di accesso agli atti nel 2017. Della Coalizione facevano parte due noti giornalisti, che sono diventati sostenitori pubblici della causa della Coalizione, partecipando a noti programmi televisivi e impegnandosi ampiamente presso altri media (Wieringa 2023: 16). La campagna pubblica includeva inoltre una campagna mediatica, organizzata dalla Platform Bescherming Burgerrechten, intitolata “Presumed Guilty” (“Bij Voorbaat Verdacht”)[7]. La campagna mirava a mobilitare un dibattito pubblico sul “profiling di rischio” in relazione ai diritti e alle libertà dei cittadini, a stimolare la ricerca e l’analisi degli effetti della governance algoritmica per migliorare la trasparenza, a educare i cittadini sui propri diritti e a responsabilizzarli nella loro tutela[8]. 

In secondo luogo, la coalizione ha sviluppato una serie di azioni “strategiche”, che includevano attività di advocacy e mobilitazione legale nel senso più stretto del termine, ovvero l’avvio di azioni legali o contenziosi strategici. Ciò ha portato al già citato procedimento giudiziario presso il Tribunale distrettuale dell’Aia, in cui la Coalizione ha criticato lo Stato olandese per violazioni dei diritti fondamentali, forme di discriminazione contro gruppi specifici e, in generale, per il tentativo di creare una “società della sorveglianza” derivante dall’uso del sistema SyRI[9]. Nel procedimento è intervenuto anche il Relatore Speciale (RS) delle Nazioni Unite sulla povertà estrema e i diritti umani Philip Alston, in qualità di amicus curiae. Il caso SyRI ha rivestito particolare interesse per il Relatore speciale, per una serie di ragioni.

In primo luogo, questa è una delle prime contestazioni legali di cui il RS sia a conoscenza che contesti in modo fondamentale e completo l’uso sistematico e sancito dalla legge delle tecnologie digitali nello Stato sociale sulla base dei diritti umani. In secondo luogo, si tratta del primo caso di contenzioso nel quale il RS abbia rilevato una contestazione, basata sulla tutela dei diritti umani, dell’utilizzo di strumenti digitali per prevenire e individuare frodi nel welfare. In terzo luogo, il RS nutre serie preoccupazioni riguardo al fatto che le autorità olandesi prendano di mira specificamente i poveri e altri gruppi vulnerabili attraverso il sistema SyRI e i progetti che lo hanno preceduto. Sembra che SyRI sia utilizzato prevalentemente in aree dove è presente in maggioranza la popolazione più povera e vulnerabile (Alston 2019: 2-3).

La Coalizione ha intrapreso l’azione legale non tanto per difendere singoli individui o una specifica decisione, quanto piuttosto per stimolare il dibattito pubblico sul futuro della governance algoritmica e sul rischio di una «società della sorveglianza» (Wieringa 2023: 15). Come osservato da Iwan-Sojka, la «procedura non mirava a risarcire le vittime, ma piuttosto a impedire l’utilizzo di SyRI nelle procedure legali» (Iwan-Sojka 2025: 105). In generale, sostiene l’A., «l’impegno delle ONG nel contenzioso di interesse pubblico si è concentrato sull’annullamento del modello di rischio piuttosto che sulla ricerca di giustizia per le singole vittime» (2025: 105). In un’intervista del 2018 (Van der Sloot e Van Schendel 2019: 216 e segg.), uno dei partner della Coalizione civica olandese, Privacy First, ha infatti dichiarato che il suo obiettivo principale è promuovere il bene comune (piuttosto che gli interessi delle singole vittime o dei gruppi). Sebbene Privacy First si dedichi al contenzioso strategico, questo rappresenta di norma l’ultimo passo di una strategia più ampia e multiforme. Il rappresentante di Privacy First ha sostenuto che il primo passo consiste nel raccogliere e scambiare informazioni e conoscenze su temi specifici, che nel caso di Privacy First è, evidentemente, il diritto alla privacy. In una seconda fase, Privacy First si dedica alle attività di lobbying e alla “diplomazia silenziosa” per attirare l’attenzione su specifiche questioni relative alla privacy, per poi, in una terza fase, avviare una campagna pubblica che coinvolga i media, lettere aperte al Parlamento, la pubblicazione di dichiarazioni sul proprio sito web e la mobilitazione dei sostenitori dell’organizzazione. Solo quando queste tre fasi non producono l’effetto desiderato, l’organizzazione può avviare un contenzioso strategico. L’importanza di un caso giudiziario per Privacy First risiede nell’inviare un segnale forte al legislatore, informare e mobilitare l’opinione pubblica e stimolare lo sviluppo della giurisprudenza sul caso specifico, sperando eventualmente di creare un precedente giuridico (Van der Sloot e Van Schendel 2019: 216). 

Nello scandalo degli assegni per l’infanzia, la Coalizione ha svolto un ruolo sociale di grande rilevanza nel promuovere la consapevolezza e informare il pubblico, esercitando pressione sulle autorità e sostenendo la tutela dei diritti umani attraverso il contenzioso. Secondo l’organizzazione della società civile Algorithm Watch, «gli attivisti olandesi hanno ottenuto il divieto di un algoritmo invasivo di rilevamento delle frodi»[10]. Secondo Krommendijk e de Vries, il ruolo delle organizzazioni sociali nel contenzioso strategico e nella tutela dei diritti umani nei Paesi Bassi, così come a livello europeo, ha portato negli ultimi anni a «sentenze importanti e, in alcuni casi, rivoluzionarie», tra cui quella relativa al caso SyRI (Krommendijk e de Vries 2025: 2).

6. Osservazioni conclusive

La governance algoritmica sta avanzando nelle democrazie moderne e sta diventando sempre più parte integrante di vari ambiti politici. È chiaro che il ricorso agli algoritmi, all’apprendimento automatico e all’IA è spesso in contrasto con i diritti umani fondamentali, tra cui i diritti alla privacy, alla non discriminazione e all’accesso ad un rimedio effettivo. Sebbene nel caso relativo all’applicazione di SyRI nel contesto delle politiche di sicurezza sociale, le autorità olandesi siano state ritenute almeno parzialmente responsabili, non da ultimo grazie a una significativa azione della società civile sotto forma di mobilitazione legale e contenzioso di interesse pubblico, ciò purtroppo non significa che le tensioni tra governance algoritmica e diritti umani si siano attenuate. Infatti, in vari modi, il Governo olandese ha intrapreso nuove politiche che potrebbero rivelarsi ancora più invasive nei confronti dei diritti individuali[11]. Un settore politico in cui si sono riscontrate pratiche simili a quelle dello scandalo degli assegni per l’assistenza all’infanzia è quello dei prestiti agli studenti, dove in particolare gli studenti di origine straniera sono stati presi di mira dalle autorità olandesi a fini di controllo[12]. La società civile, insieme al giornalismo d’inchiesta e alle autorità di monitoraggio dei diritti, sta svolgendo un ruolo estremamente importante nel sensibilizzare l’opinione pubblica sui pericoli della governance algoritmica e nel contrastare le forme di “società della sorveglianza” attraverso la mobilitazione legale. Ciò che è realmente necessario, tuttavia, è un cambiamento drastico nel rapporto tra governance pubblica e uso di algoritmi e IA, in cui quest’ultima sia debitamente disciplinata da una serie di norme e regole chiare. Nelle circostanze attuali, l’anomia guidata dall’IA è destinata solo ad aumentare, esponendo i cittadini a potenziali violazioni dei diritti su vasta scala e a forme estese di sorveglianza.

Riferimenti bibliografici

Algorithm Watch (2020), «How Dutch activists got an invasive fraud detection algorithm banned», disponibile all’indirizzo: https://algorithmwatch.org/en/syri-netherlands-algorithm/, consultato il 15 marzo 2026.

Alston, P. (2019), Memoria del Relatore speciale delle Nazioni Unite sulla povertà estrema e i diritti umani in qualità di amicus curiae nel caso NJCM c.s./De Staat der Nederlanden (SyRI) dinanzi al Tribunale distrettuale dell’Aia (numero di causa: C/09/550982/ HA ZA 18/388), disponibile all’indirizzo: https://www.ohchr.org/sites/default/files/Documents/Issues/Poverty/Amicusfinalversionsigned.pdf, consultato il 15 marzo 2026.

Anagnostou, D. (2014). Diritti e tribunali alla ricerca del cambiamento sociale. Hart Publishing.

Bekker, S. (2020). Fundamental rights in digital welfare states: The case of SyRI in the Netherlands. In Netherlands yearbook of international law 2019: Yearbooks in international law: History, function and future (pp. 289-307). L’Aia: TMC Asser Press.

Blokker, P. (2012). Costituzioni e democrazia in tempi post-nazionali: un approccio politico-sociologico. Irish Journal of Sociology, 20(2), 68-90.

Blokker, P. (2020). Resistenza costituzionale in tempi populisti. Federal law review, 48(4), 511-528.

Boutcher, S. A., e H.J. McCammon (2018). «Movimenti sociali e contenzioso». The Wiley Blackwell companion to social movements, Wiley Blackwell, pp. 306-321.

Bürli, N. (2018), Interventi di terzi dinanzi alla Corte europea dei diritti dell’uomo, Cambridge/Anversa/Portland, Intersentia.

Cichowski, R. A. (2007). La Corte europea e la società civile: contenzioso, mobilitazione e governance. Cambridge University Press.

Conant, L., Hofmann, A., Soennecken, D. e L. Vanhala, L. (2018). «Mobilizing European Law». Journal of European Public Policy, 25(9), pp. 1376-1389.

Consiglio d’Europa (2018), Algoritmi e diritti umani. Studio sulle dimensioni relative ai diritti umani delle tecniche di trattamento automatizzato dei dati e sulle possibili implicazioni normative, DGI(2017)12.

Cugurullo, F., & Xu, Y. (2025). When AIs become oracles: generative artificial intelligence, anticipatory urban governance, and the future of cities. Policy and Society, 44(1), 98-115.

De Búrca, G. (a cura di). (2022). Mobilitazione giuridica per i diritti umani. Oxford University Press.

Diaz-Bone, R. (2019). Panopticismo statistico e sua critica. Historical Social Research/Historische Sozialforschung, 44(2 (168), 77-102.

Diaz-Bone, R., & Schrör, S. (2022). Algoritmi, convenzioni e nuovi processi di regolamentazione. In Democratic Frontiers (pp. 24-46). Routledge.

Tribunale distrettuale dell’Aia (2020), Sentenza del 29 gennaio 2020 nella causa C/09/554385 / HA ZA 18/647, ECLI:NL:RBDHA:2020:865, disponibile all’indirizzo: uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878, consultato il 15 marzo 2026.

Duberry, J. (2022). Intelligenza artificiale e democrazia: rischi e promesse delle relazioni tra cittadini e governo mediate dall’IA. In Intelligenza artificiale e democrazia. Edward Elgar Publishing.

Hadwick, D., & Lan, S. (2021). Lezioni da trarre dallo scandalo olandese degli assegni per l’infanzia: una revisione comparativa della governance algoritmica da parte delle amministrazioni fiscali nei Paesi Bassi, in Francia e in Germania. World Tax J., 609.

Handmaker, J. (2026). Mobilitazione giuridica: valutare il potenziale e i limiti dell’azione civica basata sul diritto. In Mobilitazione giuridica. Edward Elgar Publishing.

Issar, S., & Aneesh, A. (2022). «Che cos’è la governance algoritmica?». Sociology Compass, 16(1), e12955.

Iwan-Sojka, D. (2025), Legittimazione nei casi di danno algoritmico. Azione collettiva nel contenzioso sui modelli di rischio negli Stati con e-government, Studia Iuridica, (106), 94-113.

Kango, U. (2025). Governance algoritmica. In Manuale di intelligenza artificiale incentrata sull’uomo (pp. 1-26). Singapore: Springer Nature Singapore.

Rachovitsa, A., & Johann, N. (2022). Le implicazioni per i diritti umani dell’uso dell’IA nello stato sociale digitale: lezioni apprese dal caso olandese SyRI. Human Rights Law Review, 22(2), ngac010.

Schuilenburg, M. (2024). Rendere pubblica la sorveglianza: perché dovresti essere più consapevole dell’IA e degli algoritmi, L’Aia: Boom Uitgevers.

Van der Sloot, B., & Van Schendel, S. (2019). La modernizzazione del diritto processuale olandese alla luce dei big data. Garanzie procedurali e un buon accesso alla giustizia come presupposti per una società basata sui dati. TILT/WODC, Tilburg.

Van Stokkom, B.A.M. (2023), «ToeslagenGate. Hoe het geloof in bedrijfsmatig werken en de obsessie met fraudebestrijding de overheid corrumpeerde», Lettera all’editore, Tijdschrift over cultuur en criminaliteit, 13, 1, (2023), pp. 77-92.

Wieringa, M. (2023). “Hey SyRI, tell me about algorithmic accountability”: Lessons from a landmark case. Data & Policy, 5, e2.

1. Nel gennaio 2021, l’intero gabinetto del Primo ministro Mark Rutte si è dimesso a seguito della pubblicazione di una relazione d’inchiesta parlamentare sulle politiche per l’infanzia, intitolata «Un’ingiustizia senza precedenti» (Ongekend Onrecht) (Hadwick e Lan 2021: 610).

2. Tribunale distrettuale dell’Aia, SyRI (System Risk Indication), ECLI:NL:RBDHA:2020:187 (5 febbraio 2020).

3. Questa frode consisteva nell’utilizzo, da parte della criminalità organizzata, del sistema olandese per ottenere, attraverso false dichiarazioni, sussidi per l’assistenza all’infanzia che venivano poi convogliati in Bulgaria (Van Stokkom 2023; Hadwick e Lan 2021: 621).

4. Vds. “Dagvaarding”, https://bijvoorbaatverdacht.nl/wp-content/uploads/2019/04/dagvaarding-bodemprocedure-syri-27-maart-2018.pdf. Consultato il 14 marzo 2026.

5. Un’iniziativa degna di nota è l’istituzione delle “Algo-Rules” da parte di una serie di esperti e think tank indipendenti, tra cui la Bertelmannsstiftung e iRights.Lab. Le Algo-Rules «si concentrano su quei sistemi algoritmici che hanno un impatto significativo sulla società o sulla vita delle persone, indipendentemente dal fatto che si tratti di effetti diretti o indiretti. Non si tratta, quindi, di stabilire una serie di regole di progettazione per tutti i sistemi algoritmici, ma piuttosto per quelli socialmente rilevanti. Per determinare se un sistema algoritmico sia socialmente rilevante, è necessario condurre una valutazione d’impatto prima della sua progettazione. Più forte è la potenziale influenza di un sistema algoritmico sulla società o sulla vita delle persone, più attentamente esso dovrebbe rispettare le Algo-Rules» (https://algorules.org/fileadmin/files/alg/Algo.Rules_EN_2.pdf) – consultato il 20 gennaio 2022.

6. Le organizzazioni sono: Stichting Platform Burgerrechten, Nederlands Juristencomité voor de Mensenrechten, Stichting Privacy First, Stichting KDVP, De Landelijke Clientenraad e FNV. Inoltre, due persone, giornalisti e scrittori, hanno aderito alla Coalizione civica. Alcune di queste organizzazioni hanno istituito la Privacy Coalitie nel 2022.

7. https://bijvoorbaatverdacht.nl/, consultato il 15 marzo 2026.

8. https://bijvoorbaatverdacht.nl/missie/, consultato il 15 marzo 2026.

9. Vds. l’appello della Coalizione: https://bijvoorbaatverdacht.nl/wp-content/uploads/2019/10/20191029-Pleitnotities-NJCM-c.s.-inzake-SyRI.pdf (consultato il 15 marzo 2026).

10. https://algorithmwatch.org/en/syri-netherlands-algorithm/, consultato il 16 marzo 2026.

11. Ad esempio: www.binnenlandsbestuur.nl/digitaal/verkiezingen/burgercoalitie-wil-dat-eerste-kamer-super-syri-afwijst; www.ftm.nl/artikelen/wet-gegevensverwerking-schaadt-privacy, consultato il 16 marzo 2026.

12. www.ftm.nl/artikelen/belastingdienst-weigert-openheid-algoritmen?share=pYRMN8hd1ATPx%2BDMuVpuLd38H0t9Xbs%2F4W3NLGCTYGUj5mSUQbCe89D5M0w9UkQ%3, consultato il 16 marzo 2026.