Magistratura democratica
Magistratura e società

La recensione a "Il capitalismo della sorveglianza" di Shoshana Zuboff

di Daniele Mercadante
giudice del Tribunale di Pisa
Il grande fallimento del costituzionalismo occidentale a fronte dell’affermazione dell’economia dei big-data

Abbiamo sbagliato. Abbiamo sbagliato quasi tutti, quasi completamente e quasi tutto.

Se l’argomento che ci occupa è la comprensione e la gestione, da parte dell’apparato democratico-costituzionale-legale-giudiziario, dell’affermazione dell’economia dei big data, buona parte di quello che interessa sapere potrebbe essere rudemente sintetizzabile nel giudizio di apertura, giudizio che, d’altronde, appare, dopo la lettura de “Il Capitalismo della Sorveglianza”, di Shoshana Zuboff (uscito in Italia per la Luiss University Press, 539 pagg., 25 euro), persino benevolo.

È pur vero che l’autrice, docente di psicologia sociale presso la Harvard Business School, è interessata principalmente a descrivere i meccanismi di gestazione, accrescimento e consolidamento dell’infrastruttura operativa e ideologica di questa nuova forma economica, e che l’attenzione ai riflessi strettamente giuridici di questi fenomeni occupa una parte della trattazione che, seppure non marginale, non è comunque preponderante (né avrebbe dovuto esserlo).

Mi sembra, d’altra parte, che possa avere una qualche utilità, a fronte del gran numero di autorevoli recensioni di questo testo – che non può non definirsi fondativo, al pari di quanto lo furono Silent Spring, No Logo, Empire, Le Capital au XXI Siècle –, avvicinarmi ad esso da prospettive costituzionalistiche e giudiziarie, corrispondenti alla mia formazione ed al mio attuale vissuto professionale.

La Zuboff si trova nella feconda e (per questo?) scomoda posizione di mediatrice tra una tradizione di ricerca sociologica di ascendenza “continentale” ed una pratica di indagine ed insegnamento calata in un contesto marcatamente “pragmatico”. Il risultato è però un’analisi complessa, capillare, impegnativa, metodologicamente rigorosa e, infine e soprattutto, illuminante. Leggere Il Capitalismo della Sorveglianza schiude al lettore, in cambio di un impegno né banale, né breve, la sistematizzazione di una enorme mole di informazioni che, interpretate da una mente all’altezza dell’ambizioso compito, si collocano in un illuminante quadro di rapporti di causa-effetto.

Ma cosa è successo, e perché dovrebbe interessarci?

Quel che è accaduto è in sé banale e déjà vu: un piccolo gruppo di imprenditori ha trovato il modo di accumulare notevolissime fortune inventando, e monopolizzando, il modo di sfruttare commercialmente una nuova tecnologia (o meglio: una serie di nuove tecnologie). La storia è questa: diffusosi il world wide web apparve ovvio che il miglior modo di guadagnarci del denaro fosse trasformarlo, come (quasi tutti) gli altri media, in un contenitore pubblicitario. L’idea, almeno inizialmente, non funzionò, e chi aveva basato il suo business model su di essa era fallito, o non era lontano dal farlo. Tra chi stava per fallire vi era un’impresa che, pure, aveva dalla sua parte un ottimo motivo per credere che gli inserzionisti avrebbero pagato per pubblicizzare i propri prodotti sul suo sito, motivo rappresentato dal fatto che la compagnia aveva creato un eccellente motore di ricerca, Google. La Zuboff ci racconta come fu una scoperta ancillare al tentativo di “vendere” il motore di ricerca quale generatore di spazi pubblicitari a fare la fortuna di Google inc., e dell’intero sistema del “capitalismo della sorveglianza”: l’impresa si rese conto che, se elaborate in maniera innovativa, le informazioni che potevano trarsi dalle ricerche effettuate sulla sua pagina permettevano di “capire” molte cose degli utenti, incluse cose che, a prima vista, non sembravano strettamente correlate alle ricerche stesse. Quello che rendeva possibile un simile trattamento dei dati era l’aumento della loro capacità di immagazzinamento e della potenza di calcolo, capacità e potenza sulle quali Google decise di investire i primi guadagni. Grazie a queste innovazioni la pubblicità poteva essere inserita sul sito in maniera mirata e, quindi, maggiormente redditizia.

Ma non era questa “la” scoperta. Il fatto che “saperne di più” su un utente (poniamo, possedere 100 informazioni su di lui invece di 10, o 10.000 invece di 1.000) fosse maggiormente desiderabile dell’alternativa non richiedeva brillanti menti matematiche. Quello che ha destato la meraviglia dei (futuri) padroni del web fu scoprire che, superata una certa “soglia critica” di dati immagazzinati e trattabili, le previsioni sull’utente diventavano mirabilmente precise, più precise, pare, di quelle ricavabili in qualsiasi altro modo conosciuto. La schiacciante superiorità delle “ricerche di mercato” condotte in tal modo prosciugò le fonti di reddito dei media tradizionali, e riversò sulle società che avevano vinto la scommessa (Google, Facebook, Apple, Microsoft e poche altre) una quantità di denaro che era ormai tale da fare dell’industria l’erede dei telai meccanici, delle ferrovie, delle catene di montaggio automobilistiche, della siderurgia, del petrolio.

Se un metodo funziona talmente bene da rendere difficile immaginare come migliorarlo, la prima idea che viene alla mente è applicarlo con maggiore intensità, frequenza ed estensione. È quello che fu fatto.

Ed è a questo punto che venne attraversato lo specchio. Per due ragioni.

La prima: perché limitarsi a raccogliere dati relativi alle ricerche che un utente effettua in rete (o alle ciance di un social network che l’utente si sente portato a premiare con un 'like')? Se fosse stato possibile ottenere più dati, da fonti diverse, riguardanti comportamenti ancora estranei alla super-visione dei grandi calcolatori, la predizione sui gusti degli utenti avrebbe potuto raggiungere una precisione tale da cancellare la concorrenza in uno dei mercati più redditizi del pianeta.

Cominciò così quella che l’autrice descrive come “l’estrazione del surplus comportamentale”. Con grande disinvoltura i colossi della rete, aiutati in questo dalla crescente dipendenza del pianeta nei confronti del telefono cellulare connesso ad internet (la caja tonta della nostra epoca, che mantiene peraltro in alta stima quella tradizionale), accumularono quantità difficilmente stimabili di dati relativi (non già solamente alle “propensioni commerciali” delle persone), ma più o meno a qualsiasi cosa vi possa venire in mente: la vostra localizzazione attuale, le vostre abitudini di spostamento, i luoghi nei quali siete soliti trascorrere più tempo, e quanto, e in quali ore del giorno, e in quali giorni della settimana, la calma o la rabbia con la quale digitate un messaggio, la frequenza con la quale digitate termini che un programmatore, uno psichiatra, un qualunque dipendente di una qualsiasi impresa della galassia della rilevazione ha deciso essere l’indice di un determinato tratto caratteriale, di un umore depresso o eccitato, della ricerca di cibo, di compagnia, di sesso, di alcol, di farmaci, di medici specializzati in malattie che sperereste nessuno sappia che avete (sospettato di avere) contratto..

La (solo apparentemente) innocente, e tutto sommato goffa, idea: “se per cinque volte in una settimana ha cercato la parola “barboncino” sul motore di ricerca, allora mostriamogli pubblicità di cibo per cani”, si era evoluta nella consapevolezza, sempre più vertiginosa, di potere “predire” una sterminata serie di comportamenti, relativi più o meno all’intera esperienza umana, di centinaia di milioni di “soggetti osservati” (chiamarli utenti non avrebbe, a questo punto, che un senso vagamente canzonatorio), ottenendo dati che, fino a meno di un decennio prima, erano ricavabili solo con riguardo a pochi soggetti, al costo della mobilitazione di un cospicuo apparato di polizia, se non spionistico, e con risultati peggiori.

Da qui la seconda ragione per la quale ci troviamo in una terra incognita: la panoplia di strumenti (app, videogiochi, telecamere e microfoni incorporati nei cellulari, negli elettrodomestici, nelle case, nei giocattoli – sì, nei giocattoli –, estrazione di dati dalle chat, dalle email, dalle variazioni di luce e rumore ecc...) per l’estrazione dei dati comportamentali ed il formidabile – ed ormai costosissimo – apparato tecnologico per il trattamento di tali dati ha cominciato ad apparire sproporzionato allo scopo di partenza (vendere pubblicità meglio degli altri); potevano essere utilizzati per ottenere, per quanto possa apparire brutalmente semplicistico e sottilmente inquietante, il migliore strumento di monitoraggio e predizione del comportamento umano (di qualsiasi comportamento umano), a qualsiasi scala desiderata, mai caduto in possesso di alcuno (e, in effetti, le persone che possedevano queste tecnologie stavano diventando gli individui più ricchi del mondo,“legittimando” ed “illustrando” un corrispondente incremento delle loro aspirazioni ed alimentando, in persone dall’ego già tendenzialmente robusto, una sensazione di superpotenza che si fatica sempre più a non notare, e della quale la Zuboff fornisce numerosi esempi).

Uno dei maggiori meriti del “Capitalismo della Sorveglianza”, in effetti, è che per le prime quattrocento pagine circa dà la parola esclusivamente ad una parte: i padroni del sistema. Il volume è metodico fin quasi all’eccesso (ma è una terapia d’urto che ha i suoi effetti positivi) nell’adagiare sul tavolo sperimentale le prese di posizione, le dichiarazioni, i discorsi celebrativi, le elaborazioni teoriche, gli altri scritti dei proprietari delle aziende che monopolizzano questo mercato, dei loro manager, degli esponenti delle imprese minori alle quali è appaltata una parte del “ciclo della trasformazione” dei dati in marcatori predittivi del comportamento umano.

L’effetto complessivo non mette a proprio agio il lettore: persone dotate di un potere economico formidabile (e i loro collaboratori, luogotenenti, imitatori, intellettuali organici e addetti alle pubbliche relazioni), che procedono da venti-trenta anni senza che si metta seriamente in questione la legittimità, l’utilità sociale, le possibili conseguenze del loro operato,“vedono” (nel senso della visionarietà, imprenditoriale, ma anche messianica) un mondo il cui manifest destiny è quello di essere pervasivamente regolato da una serie di calcolatori pressoché onniscienti, alimentati da una quantità sempre maggiore di dati. La democrazia, la partecipazione, la reciprocità informativa e la trasparenza non entrano nell’equazione, perché, molto semplicemente, fanno diminuire i guadagni e, ciò che è (quasi) la stessa cosa, minano l’ideologia del superamento della deliberazione umana, perlomeno di quella che non risponde ai masters of the web.

Con i tempi che corrono, e dati i precedenti che tra poco richiamerò, è bene precisare che: sì, lo scenario così sommariamente descritto presenta degli inconvenienti; tra i principali:

  • il diritto alla privacy, in qualsiasi senso significativo lo si sia inteso da quando il concetto è stato elaborato dalla giurisprudenza inglese (come “the right to be left alone”), è l’ombra di quel che era dieci, quindici anni or sono, ormai oggetto di sostanziale dileggio e scherno;
  • le tecnologie descritte sono in grado di minare le garanzie poste a tutela di altri diritti fondamentali, come l’inviolabilità del domicilio e la segretezza delle comunicazioni;
  • le tecnologie descritte non sono “neutre”; i programmatori, e chi dà loro ordini, ed i politici che questi scelgono di ascoltare, sono padroni di classificarci sulla base di centinaia, migliaia, decine di migliaia di‘scale’ (di affidabilità creditizia, assicurativa, sanitaria, psichiatrica, di preferenze sessuali, di inclinazioni politiche, di fervore religioso o anti-religioso, di “lealtà” verso il nostro datore di lavoro, verso il nostro governo, di fedeltà al nostro partner) la cui creazione attraverso arcani algoritmi sfugge a qualsiasi controllo della persona “analizzata”, e la cui unica garanzia di affidabilità dovrebbe essere la disciplina imposta dalla “mano invisibile” (perché impegnata in un’operazione di sorveglianza che deve rimanere quanto più discreta possibile) di un mercato che è, peraltro, caratterizzato da una struttura winner-takes-all che tende a generare poderose economie di scala e, dunque, monopoli e oligopoli.

Non è tutto (anzi, appare proprio essere solo l’inizio).

Il gioco è già stato portato ad un livello superiore. Perché affannarsi a prevedere, semplicemente prevedere, il comportamento umano quando la potenza di calcolo a disposizione, attraverso un efficace uso delle informazioni che compulsivamente i“soggetti osservati” ricercano (e riversano) nella rete, potrebbe consentire (come in effetti consente) ai giganti del web di operare, su una scala senza precedenti, quello che Cass Sunstein ha definito (in tutt’altro contesto, ma tant’è) il “nudging”, modificando incrementalmente il comportamento attraverso una serie di stimoli informativi che, come i dati predittivi, diventano sempre più precisi, mirati ed efficaci, essendo consentito ai detentori di queste tecnologie di eseguire miliardi di esperimenti ogni giorno, laddove ciascun esperimento fornisce ulteriori informazioni per migliorare il tentativo di condizionamento successivo? Il volume (insieme ad una lettura anche distratta dei quotidiani) fornisce esempi di questo comportamento, di imprese che sono dedite ad esso e di persone coinvolte in pratiche di questo genere, che giungono persino, in taluni casi, a rivendicare il diritto e l’opportunità di dedicarvisi.

Per tornare all’affermazione di partenza: abbiamo sbagliato; abbiamo sbagliato quasi tutti, quasi completamente e quasi tutto.

E, giunti a questo punto, si dovrebbe comprendere perché mi riferisco al Grande Fallimento del Costituzionalismo Occidentale (Gfco).

Riepiloghiamo: negli anni‘90 del 1900 il costituzionalismo poteva vantarsi, almeno in occidente, di avere lottato con qualche efficacia contro le discriminazioni più evidenti e radicate, di avere assecondato l’affrancamento dal bisogno e dalla precarietà di fasce notevoli della popolazione, sottratte all’abbruttimento generato dall’assenza di welfare, di avere sepolto i fascismi ed i post-stalinismi, di avere facilitato la creazione di uno spazio di dialogo sociale che aveva pienamente rivelato la barbarie ed il tratto grottesco dei terrorismi ideologici.

Questo capitale di credibilità è oggi significativamente eroso. Il Gfco si è manifestato con la resa (o l’interessata indifferenza) al neo-manchesterismo, allo smantellamento dell’apparato di welfare, alla precarizzazione/mercificazione degli individui (non più della società, che, nelle parole della donna che più ha influenzato la nostra epoca, “non esiste”), con le loro conseguenze più ovvie e distruttive (del tessuto comunitario): il venir meno di “corpi aggregativi” (associazioni, partiti politici, sindacati, movimenti), sostituiti dall’anemico, virtuale, unidirezionale, ipermediatizzato legame tra il “leader” e milioni di singoli disorientati, spaventati, bisognosi, rancorosi, incapaci di parlare tra loro costruttivamente, e proprio – per paradosso – nella cosiddetta “età della comunicazione” (comunicazione senza contenuti, peraltro); ne è conseguita la perdita di‘intensità' e di‘spessore’ delle pratiche democratiche, formalmente (e talvolta neanche formalmente) preservate, ma ridimensionate nella loro potenzialità di‘trasformare’ i segnali di volontà del corpo elettorale, del‘popolo’ del nostro art. 1, Cost., in voci riconosciute di un dialogo con le istituzioni.

In un tale quadro di “debilitazione” democratica degenerativa il Gfco è stato amplificato, e non poco, dall’incapacità di porre alcuna seria, efficace barriera, sia pure soltanto retorica, all’affermazione del potere parallelo rappresentato dal complesso industriale dedito all’incameramento dei big data, alla predizione pervasiva, alla persuasione occulta attraverso il “nudging” informatico, e giustifica, se non vi si pone rimedio, la sensazione che la democrazia, quantomeno quella “continentale” (la Zuboff è piuttosto fiduciosa negli anticorpi insiti nel modello anglosassone di partecipazione-voto-controllo, e non ha torto a ritenerlo differente dal nostro, nel bene e nel male), si trovi di fronte ad una nuova minaccia “sistemica”, una minaccia della quale i fenomeni che vanno sotto i nomi (descrittivamente disastrosi) di populismo e post-verità rappresentano delle avvisaglie.

La Zuboff chiama alla resistenza civile, ed è ben consapevole di quale distopia potrebbe materializzarsi laddove non si ponesse un freno legale, sociale, costituzionale, alla “polis della sorveglianza” (non si legga il “capitalismo” del titolo come un indizio di intenti sovvertitori: la Zuboff chiarisce come il suo scopo sia la difesa e la preservazione dell’economia di mercato che, anzi, sarebbe una delle principali vittime della sorveglianza, che potrebbe aprire la strada ad una nuova era di pan-pianificazione, col solo intento di arricchire pochissimi e, naturalmente, conservare gli assetti di potere che permettono tale arricchimento).

Se può muoversi un appunto alle tesi del volume è questo: in caso di fallimento dell’auspicata reazione all’espansione della macchina della sorveglianza la Zuboff anticipa un universo di “molle servitù volontaria” (à la Adorno); basandosi sull’osservazione per la quale, fino ad oggi, la costruzione dell’apparato della digitalizzazione dell’esperienza umana a scopo di profitto si è fondata sull’accettazione delle moltitudini, grate di ricevere “un servizio”  (il motore di ricerca, il social network sul quale sfogare i propri peggiori istinti e contemplare quelli degli altri con insincera, voyeristica indignazione), l’autrice prevede che servizi ancora migliori basteranno a farci accettare ulteriori, anche severe restrizioni della nostra libertà, senza che il nuovo totalitarismo abbia bisogno di ricorrere alla violenza.

Ci permettiamo di non essere altrettanto ottimisti.

 

P.S. La risposta è ovviamente sì: il fatto che abbiate aperto questa pagina web e letto questo articolo, il sentiero elettronico attraverso il quale siete arrivati qui, la velocità con la quale state scorrendo questo testo, il tempo che state impiegando a leggerlo, la prossima ricerca che digiterete, il luogo nel quale tutto questo avviene, sono dati che, insieme a numerosi altri, stanno nutrendo algoritmi che prevedono, riguardo voi e riguardo me, cose che, forse, neppure ci siamo mai chiesti intorno a noi stessi, e che, per qualche scherzo che avrebbe fatto sorridere lo Hume della Ricerca sull’Intelletto Umano, una macchina riesce ad indovinare meglio di chiunque. Per il profitto di qualcun altro, s’intende.

22/02/2020
Altri articoli di Daniele Mercadante
Se ti piace questo articolo e trovi interessante la nostra rivista, iscriviti alla newsletter per ricevere gli aggiornamenti sulle nuove pubblicazioni.
Caso Vos Thalassa: il fatto; la lingua e l’ideologia del giudice

Nel luglio 2018, alcuni migranti tengono condotte violente per impedire ai membri dell’equipaggio dell’imbarcazione che li ha soccorsi di consegnarli alla Guardia costiera libica. La Corte di appello di Palermo ha condannato gli imputati, ribaltando il giudizio assolutorio reso dal GUP presso il Tribunale di Trapani che aveva ravvisato la sussistenza della causa di giustificazione della legittima difesa. Il confronto tra le due sentenze è l’occasione per riflettere – oltre che sul merito delle due decisioni – sul tema della motivazione delle sentenze penali.

23/07/2020
Cittadini, stranieri e solidarietà alimentare al tempo del coronavirus
Le decisioni dei Tribunali di Roma, Brescia e Ferrara sulle condizioni di accesso ai buoni spesa alimentari indicano i criteri che dovrebbero orientare gli enti locali nella ripartizione delle risorse ricevute per far fronte alla situazione emergenziale. Nel rispetto del principio di non discriminazione e della tutela di diritti umani fondamentali, gli enti locali dovrebbero fissare condizioni di accesso basate esclusivamente sulla condizione di disagio economico e sul domicilio (e non residenza) nel territorio comunale
21/05/2020
Il Covid-19 e le disuguaglianze economiche
Sono molteplici gli aspetti del rapporto tra pandemia da Covid-19 e disuguaglianze economiche: dal ruolo che le disuguaglianze pre-esistenti possono avere nell'accrescere sia il rischio di restare vittima del virus sia la sua diffusione,  fino alle conseguenze che la pandemia potrà avere sulle disuguaglianze future
08/04/2020
Le restrizioni alla libertà di movimento ai tempi del Covid-19
Le decisioni dei Tribunali di Roma e Trieste sul trattenimento di tre richiedenti asilo presso i Cpr di Ponte Galeria e Gradisca d’Isonzo offrono l’occasione per riflettere criticamente sul significato che assumono le misure restrittive alla libertà di movimento nel contesto della pandemia da Covid-19
30/03/2020
Lo Stato di diritto in Bulgaria: una “Fata Morgana”?
La Costituzione repubblicana del 1991 ha introdotto un modello di ordinamento giudiziario che presenta carenze strutturali e di sistema: quelle più significative riguardano l’assetto post-totalitario e le funzioni riservate al Procuratore Generale, e il funzionamento del Consiglio Supremo di giustizia (SJC). Un modello che favorisce l’unione anziché la separazione dei poteri e concorre al grave processo di regressione democratica, segnato dal crescente livello di  aggressione all’indipendenza della magistratura e ai  singoli giudici, e dall’assenza di risposte istituzionali
13/03/2020
Il vecchio carcere ai tempi del nuovo colera
Il carcere attuale è sovraffollato e pericoloso. Per evitare che il coronavirus vi penetri, con rischi per tutti, occorre pensare a risposte celeri e concrete. Non è esercizio di buonismo, ma sano realismo
11/03/2020
La protezione umanitaria nel solco della Costituzione
Una cittadina nigeriana che ha subito violenze sessuali ed è stata indotta alla prostituzione in Libia chiede protezione umanitaria. Nella pronuncia annotata, la rappresentazione credibile di un vissuto così traumatico e lacerante si impone nel giudizio di vulnerabilità, rispetto alla valutazione comparativa del paese di rimpatrio ed alla consumazione della privazione della dignità e della libertà personale nel paese di transito, la Libia
05/03/2020
La recensione a "Il capitalismo della sorveglianza" di Shoshana Zuboff
Il grande fallimento del costituzionalismo occidentale a fronte dell’affermazione dell’economia dei big-data
22/02/2020