Magistratura democratica
Magistratura e società

La recensione a "Il capitalismo della sorveglianza" di Shoshana Zuboff

di Daniele Mercadante
giudice del Tribunale di Pisa
Il grande fallimento del costituzionalismo occidentale a fronte dell’affermazione dell’economia dei big-data

Abbiamo sbagliato. Abbiamo sbagliato quasi tutti, quasi completamente e quasi tutto.

Se l’argomento che ci occupa è la comprensione e la gestione, da parte dell’apparato democratico-costituzionale-legale-giudiziario, dell’affermazione dell’economia dei big data, buona parte di quello che interessa sapere potrebbe essere rudemente sintetizzabile nel giudizio di apertura, giudizio che, d’altronde, appare, dopo la lettura de “Il Capitalismo della Sorveglianza”, di Shoshana Zuboff (uscito in Italia per la Luiss University Press, 539 pagg., 25 euro), persino benevolo.

È pur vero che l’autrice, docente di psicologia sociale presso la Harvard Business School, è interessata principalmente a descrivere i meccanismi di gestazione, accrescimento e consolidamento dell’infrastruttura operativa e ideologica di questa nuova forma economica, e che l’attenzione ai riflessi strettamente giuridici di questi fenomeni occupa una parte della trattazione che, seppure non marginale, non è comunque preponderante (né avrebbe dovuto esserlo).

Mi sembra, d’altra parte, che possa avere una qualche utilità, a fronte del gran numero di autorevoli recensioni di questo testo – che non può non definirsi fondativo, al pari di quanto lo furono Silent Spring, No Logo, Empire, Le Capital au XXI Siècle –, avvicinarmi ad esso da prospettive costituzionalistiche e giudiziarie, corrispondenti alla mia formazione ed al mio attuale vissuto professionale.

La Zuboff si trova nella feconda e (per questo?) scomoda posizione di mediatrice tra una tradizione di ricerca sociologica di ascendenza “continentale” ed una pratica di indagine ed insegnamento calata in un contesto marcatamente “pragmatico”. Il risultato è però un’analisi complessa, capillare, impegnativa, metodologicamente rigorosa e, infine e soprattutto, illuminante. Leggere Il Capitalismo della Sorveglianza schiude al lettore, in cambio di un impegno né banale, né breve, la sistematizzazione di una enorme mole di informazioni che, interpretate da una mente all’altezza dell’ambizioso compito, si collocano in un illuminante quadro di rapporti di causa-effetto.

Ma cosa è successo, e perché dovrebbe interessarci?

Quel che è accaduto è in sé banale e déjà vu: un piccolo gruppo di imprenditori ha trovato il modo di accumulare notevolissime fortune inventando, e monopolizzando, il modo di sfruttare commercialmente una nuova tecnologia (o meglio: una serie di nuove tecnologie). La storia è questa: diffusosi il world wide web apparve ovvio che il miglior modo di guadagnarci del denaro fosse trasformarlo, come (quasi tutti) gli altri media, in un contenitore pubblicitario. L’idea, almeno inizialmente, non funzionò, e chi aveva basato il suo business model su di essa era fallito, o non era lontano dal farlo. Tra chi stava per fallire vi era un’impresa che, pure, aveva dalla sua parte un ottimo motivo per credere che gli inserzionisti avrebbero pagato per pubblicizzare i propri prodotti sul suo sito, motivo rappresentato dal fatto che la compagnia aveva creato un eccellente motore di ricerca, Google. La Zuboff ci racconta come fu una scoperta ancillare al tentativo di “vendere” il motore di ricerca quale generatore di spazi pubblicitari a fare la fortuna di Google inc., e dell’intero sistema del “capitalismo della sorveglianza”: l’impresa si rese conto che, se elaborate in maniera innovativa, le informazioni che potevano trarsi dalle ricerche effettuate sulla sua pagina permettevano di “capire” molte cose degli utenti, incluse cose che, a prima vista, non sembravano strettamente correlate alle ricerche stesse. Quello che rendeva possibile un simile trattamento dei dati era l’aumento della loro capacità di immagazzinamento e della potenza di calcolo, capacità e potenza sulle quali Google decise di investire i primi guadagni. Grazie a queste innovazioni la pubblicità poteva essere inserita sul sito in maniera mirata e, quindi, maggiormente redditizia.

Ma non era questa “la” scoperta. Il fatto che “saperne di più” su un utente (poniamo, possedere 100 informazioni su di lui invece di 10, o 10.000 invece di 1.000) fosse maggiormente desiderabile dell’alternativa non richiedeva brillanti menti matematiche. Quello che ha destato la meraviglia dei (futuri) padroni del web fu scoprire che, superata una certa “soglia critica” di dati immagazzinati e trattabili, le previsioni sull’utente diventavano mirabilmente precise, più precise, pare, di quelle ricavabili in qualsiasi altro modo conosciuto. La schiacciante superiorità delle “ricerche di mercato” condotte in tal modo prosciugò le fonti di reddito dei media tradizionali, e riversò sulle società che avevano vinto la scommessa (Google, Facebook, Apple, Microsoft e poche altre) una quantità di denaro che era ormai tale da fare dell’industria l’erede dei telai meccanici, delle ferrovie, delle catene di montaggio automobilistiche, della siderurgia, del petrolio.

Se un metodo funziona talmente bene da rendere difficile immaginare come migliorarlo, la prima idea che viene alla mente è applicarlo con maggiore intensità, frequenza ed estensione. È quello che fu fatto.

Ed è a questo punto che venne attraversato lo specchio. Per due ragioni.

La prima: perché limitarsi a raccogliere dati relativi alle ricerche che un utente effettua in rete (o alle ciance di un social network che l’utente si sente portato a premiare con un 'like')? Se fosse stato possibile ottenere più dati, da fonti diverse, riguardanti comportamenti ancora estranei alla super-visione dei grandi calcolatori, la predizione sui gusti degli utenti avrebbe potuto raggiungere una precisione tale da cancellare la concorrenza in uno dei mercati più redditizi del pianeta.

Cominciò così quella che l’autrice descrive come “l’estrazione del surplus comportamentale”. Con grande disinvoltura i colossi della rete, aiutati in questo dalla crescente dipendenza del pianeta nei confronti del telefono cellulare connesso ad internet (la caja tonta della nostra epoca, che mantiene peraltro in alta stima quella tradizionale), accumularono quantità difficilmente stimabili di dati relativi (non già solamente alle “propensioni commerciali” delle persone), ma più o meno a qualsiasi cosa vi possa venire in mente: la vostra localizzazione attuale, le vostre abitudini di spostamento, i luoghi nei quali siete soliti trascorrere più tempo, e quanto, e in quali ore del giorno, e in quali giorni della settimana, la calma o la rabbia con la quale digitate un messaggio, la frequenza con la quale digitate termini che un programmatore, uno psichiatra, un qualunque dipendente di una qualsiasi impresa della galassia della rilevazione ha deciso essere l’indice di un determinato tratto caratteriale, di un umore depresso o eccitato, della ricerca di cibo, di compagnia, di sesso, di alcol, di farmaci, di medici specializzati in malattie che sperereste nessuno sappia che avete (sospettato di avere) contratto..

La (solo apparentemente) innocente, e tutto sommato goffa, idea: “se per cinque volte in una settimana ha cercato la parola “barboncino” sul motore di ricerca, allora mostriamogli pubblicità di cibo per cani”, si era evoluta nella consapevolezza, sempre più vertiginosa, di potere “predire” una sterminata serie di comportamenti, relativi più o meno all’intera esperienza umana, di centinaia di milioni di “soggetti osservati” (chiamarli utenti non avrebbe, a questo punto, che un senso vagamente canzonatorio), ottenendo dati che, fino a meno di un decennio prima, erano ricavabili solo con riguardo a pochi soggetti, al costo della mobilitazione di un cospicuo apparato di polizia, se non spionistico, e con risultati peggiori.

Da qui la seconda ragione per la quale ci troviamo in una terra incognita: la panoplia di strumenti (app, videogiochi, telecamere e microfoni incorporati nei cellulari, negli elettrodomestici, nelle case, nei giocattoli – sì, nei giocattoli –, estrazione di dati dalle chat, dalle email, dalle variazioni di luce e rumore ecc...) per l’estrazione dei dati comportamentali ed il formidabile – ed ormai costosissimo – apparato tecnologico per il trattamento di tali dati ha cominciato ad apparire sproporzionato allo scopo di partenza (vendere pubblicità meglio degli altri); potevano essere utilizzati per ottenere, per quanto possa apparire brutalmente semplicistico e sottilmente inquietante, il migliore strumento di monitoraggio e predizione del comportamento umano (di qualsiasi comportamento umano), a qualsiasi scala desiderata, mai caduto in possesso di alcuno (e, in effetti, le persone che possedevano queste tecnologie stavano diventando gli individui più ricchi del mondo,“legittimando” ed “illustrando” un corrispondente incremento delle loro aspirazioni ed alimentando, in persone dall’ego già tendenzialmente robusto, una sensazione di superpotenza che si fatica sempre più a non notare, e della quale la Zuboff fornisce numerosi esempi).

Uno dei maggiori meriti del “Capitalismo della Sorveglianza”, in effetti, è che per le prime quattrocento pagine circa dà la parola esclusivamente ad una parte: i padroni del sistema. Il volume è metodico fin quasi all’eccesso (ma è una terapia d’urto che ha i suoi effetti positivi) nell’adagiare sul tavolo sperimentale le prese di posizione, le dichiarazioni, i discorsi celebrativi, le elaborazioni teoriche, gli altri scritti dei proprietari delle aziende che monopolizzano questo mercato, dei loro manager, degli esponenti delle imprese minori alle quali è appaltata una parte del “ciclo della trasformazione” dei dati in marcatori predittivi del comportamento umano.

L’effetto complessivo non mette a proprio agio il lettore: persone dotate di un potere economico formidabile (e i loro collaboratori, luogotenenti, imitatori, intellettuali organici e addetti alle pubbliche relazioni), che procedono da venti-trenta anni senza che si metta seriamente in questione la legittimità, l’utilità sociale, le possibili conseguenze del loro operato,“vedono” (nel senso della visionarietà, imprenditoriale, ma anche messianica) un mondo il cui manifest destiny è quello di essere pervasivamente regolato da una serie di calcolatori pressoché onniscienti, alimentati da una quantità sempre maggiore di dati. La democrazia, la partecipazione, la reciprocità informativa e la trasparenza non entrano nell’equazione, perché, molto semplicemente, fanno diminuire i guadagni e, ciò che è (quasi) la stessa cosa, minano l’ideologia del superamento della deliberazione umana, perlomeno di quella che non risponde ai masters of the web.

Con i tempi che corrono, e dati i precedenti che tra poco richiamerò, è bene precisare che: sì, lo scenario così sommariamente descritto presenta degli inconvenienti; tra i principali:

  • il diritto alla privacy, in qualsiasi senso significativo lo si sia inteso da quando il concetto è stato elaborato dalla giurisprudenza inglese (come “the right to be left alone”), è l’ombra di quel che era dieci, quindici anni or sono, ormai oggetto di sostanziale dileggio e scherno;
  • le tecnologie descritte sono in grado di minare le garanzie poste a tutela di altri diritti fondamentali, come l’inviolabilità del domicilio e la segretezza delle comunicazioni;
  • le tecnologie descritte non sono “neutre”; i programmatori, e chi dà loro ordini, ed i politici che questi scelgono di ascoltare, sono padroni di classificarci sulla base di centinaia, migliaia, decine di migliaia di‘scale’ (di affidabilità creditizia, assicurativa, sanitaria, psichiatrica, di preferenze sessuali, di inclinazioni politiche, di fervore religioso o anti-religioso, di “lealtà” verso il nostro datore di lavoro, verso il nostro governo, di fedeltà al nostro partner) la cui creazione attraverso arcani algoritmi sfugge a qualsiasi controllo della persona “analizzata”, e la cui unica garanzia di affidabilità dovrebbe essere la disciplina imposta dalla “mano invisibile” (perché impegnata in un’operazione di sorveglianza che deve rimanere quanto più discreta possibile) di un mercato che è, peraltro, caratterizzato da una struttura winner-takes-all che tende a generare poderose economie di scala e, dunque, monopoli e oligopoli.

Non è tutto (anzi, appare proprio essere solo l’inizio).

Il gioco è già stato portato ad un livello superiore. Perché affannarsi a prevedere, semplicemente prevedere, il comportamento umano quando la potenza di calcolo a disposizione, attraverso un efficace uso delle informazioni che compulsivamente i“soggetti osservati” ricercano (e riversano) nella rete, potrebbe consentire (come in effetti consente) ai giganti del web di operare, su una scala senza precedenti, quello che Cass Sunstein ha definito (in tutt’altro contesto, ma tant’è) il “nudging”, modificando incrementalmente il comportamento attraverso una serie di stimoli informativi che, come i dati predittivi, diventano sempre più precisi, mirati ed efficaci, essendo consentito ai detentori di queste tecnologie di eseguire miliardi di esperimenti ogni giorno, laddove ciascun esperimento fornisce ulteriori informazioni per migliorare il tentativo di condizionamento successivo? Il volume (insieme ad una lettura anche distratta dei quotidiani) fornisce esempi di questo comportamento, di imprese che sono dedite ad esso e di persone coinvolte in pratiche di questo genere, che giungono persino, in taluni casi, a rivendicare il diritto e l’opportunità di dedicarvisi.

Per tornare all’affermazione di partenza: abbiamo sbagliato; abbiamo sbagliato quasi tutti, quasi completamente e quasi tutto.

E, giunti a questo punto, si dovrebbe comprendere perché mi riferisco al Grande Fallimento del Costituzionalismo Occidentale (Gfco).

Riepiloghiamo: negli anni‘90 del 1900 il costituzionalismo poteva vantarsi, almeno in occidente, di avere lottato con qualche efficacia contro le discriminazioni più evidenti e radicate, di avere assecondato l’affrancamento dal bisogno e dalla precarietà di fasce notevoli della popolazione, sottratte all’abbruttimento generato dall’assenza di welfare, di avere sepolto i fascismi ed i post-stalinismi, di avere facilitato la creazione di uno spazio di dialogo sociale che aveva pienamente rivelato la barbarie ed il tratto grottesco dei terrorismi ideologici.

Questo capitale di credibilità è oggi significativamente eroso. Il Gfco si è manifestato con la resa (o l’interessata indifferenza) al neo-manchesterismo, allo smantellamento dell’apparato di welfare, alla precarizzazione/mercificazione degli individui (non più della società, che, nelle parole della donna che più ha influenzato la nostra epoca, “non esiste”), con le loro conseguenze più ovvie e distruttive (del tessuto comunitario): il venir meno di “corpi aggregativi” (associazioni, partiti politici, sindacati, movimenti), sostituiti dall’anemico, virtuale, unidirezionale, ipermediatizzato legame tra il “leader” e milioni di singoli disorientati, spaventati, bisognosi, rancorosi, incapaci di parlare tra loro costruttivamente, e proprio – per paradosso – nella cosiddetta “età della comunicazione” (comunicazione senza contenuti, peraltro); ne è conseguita la perdita di‘intensità' e di‘spessore’ delle pratiche democratiche, formalmente (e talvolta neanche formalmente) preservate, ma ridimensionate nella loro potenzialità di‘trasformare’ i segnali di volontà del corpo elettorale, del‘popolo’ del nostro art. 1, Cost., in voci riconosciute di un dialogo con le istituzioni.

In un tale quadro di “debilitazione” democratica degenerativa il Gfco è stato amplificato, e non poco, dall’incapacità di porre alcuna seria, efficace barriera, sia pure soltanto retorica, all’affermazione del potere parallelo rappresentato dal complesso industriale dedito all’incameramento dei big data, alla predizione pervasiva, alla persuasione occulta attraverso il “nudging” informatico, e giustifica, se non vi si pone rimedio, la sensazione che la democrazia, quantomeno quella “continentale” (la Zuboff è piuttosto fiduciosa negli anticorpi insiti nel modello anglosassone di partecipazione-voto-controllo, e non ha torto a ritenerlo differente dal nostro, nel bene e nel male), si trovi di fronte ad una nuova minaccia “sistemica”, una minaccia della quale i fenomeni che vanno sotto i nomi (descrittivamente disastrosi) di populismo e post-verità rappresentano delle avvisaglie.

La Zuboff chiama alla resistenza civile, ed è ben consapevole di quale distopia potrebbe materializzarsi laddove non si ponesse un freno legale, sociale, costituzionale, alla “polis della sorveglianza” (non si legga il “capitalismo” del titolo come un indizio di intenti sovvertitori: la Zuboff chiarisce come il suo scopo sia la difesa e la preservazione dell’economia di mercato che, anzi, sarebbe una delle principali vittime della sorveglianza, che potrebbe aprire la strada ad una nuova era di pan-pianificazione, col solo intento di arricchire pochissimi e, naturalmente, conservare gli assetti di potere che permettono tale arricchimento).

Se può muoversi un appunto alle tesi del volume è questo: in caso di fallimento dell’auspicata reazione all’espansione della macchina della sorveglianza la Zuboff anticipa un universo di “molle servitù volontaria” (à la Adorno); basandosi sull’osservazione per la quale, fino ad oggi, la costruzione dell’apparato della digitalizzazione dell’esperienza umana a scopo di profitto si è fondata sull’accettazione delle moltitudini, grate di ricevere “un servizio”  (il motore di ricerca, il social network sul quale sfogare i propri peggiori istinti e contemplare quelli degli altri con insincera, voyeristica indignazione), l’autrice prevede che servizi ancora migliori basteranno a farci accettare ulteriori, anche severe restrizioni della nostra libertà, senza che il nuovo totalitarismo abbia bisogno di ricorrere alla violenza.

Ci permettiamo di non essere altrettanto ottimisti.

 

P.S. La risposta è ovviamente sì: il fatto che abbiate aperto questa pagina web e letto questo articolo, il sentiero elettronico attraverso il quale siete arrivati qui, la velocità con la quale state scorrendo questo testo, il tempo che state impiegando a leggerlo, la prossima ricerca che digiterete, il luogo nel quale tutto questo avviene, sono dati che, insieme a numerosi altri, stanno nutrendo algoritmi che prevedono, riguardo voi e riguardo me, cose che, forse, neppure ci siamo mai chiesti intorno a noi stessi, e che, per qualche scherzo che avrebbe fatto sorridere lo Hume della Ricerca sull’Intelletto Umano, una macchina riesce ad indovinare meglio di chiunque. Per il profitto di qualcun altro, s’intende.

22/02/2020
Altri articoli di Daniele Mercadante
Se ti piace questo articolo e trovi interessante la nostra rivista, iscriviti alla newsletter per ricevere gli aggiornamenti sulle nuove pubblicazioni.
Tecnofeudalesimo. Cosa ha ucciso il capitalismo

Recensione al volume di Yannis Varoufakis, edito da La nave di Teseo (2024)

13/07/2024
Quali diritti? Come parlarne a scuola e alle generazioni più giovani

Come riflettere insieme ai più giovani sul significato di diritto umano? Cosa viene incluso e cosa di fatto si esclude osservandolo alla luce dell’esperienza concreta? Nel libro-laboratorio Diritti in gioco (2004) avevamo affrontato il tema in un lavoro collettivo attraverso un cambio del punto di vista, ovvero, partire dalla vita reale e quindi dai bisogni, e verificare se e in che modo erano stati accolti e considerati nell’ambito del diritto. La scelta è stata quella di considerare alcuni beni comuni fondamentali: acqua, terra, cibo, sapere, salute, uguaglianza, pace. Il libro, molto utilizzato nelle scuole, oggi necessita di una ristampa e i cambiamenti in atto (sul piano geopolitico, economico, climatico, le nuove forme di sfruttamento, le guerre continue, le sistematiche violazioni dei diritti - e del diritto internazionale in particolare - che rimangono impunite se non addirittura avallate) richiedono una rinnovata riflessione. Accenniamo qui ad alcune questioni che andrebbero considerate e affrontate: una proposta, nell’intento di svilupparle attraverso un percorso ancora una volta collettivo.

12/06/2024
L’influenza del diritto europeo ed internazionale sui diritti fondamentali dei migranti: a proposito del d.l. 1/2023

Il diritto europeo ed il diritto internazionale assumono ruoli determinanti nella tutela dei diritti fondamentali. La sua applicazione ai diritti dei migranti, tuttavia, viene declinata costantemente in modo restrittivo: il recentissimo DL 2 gennaio 2023 n. 1 ed i successivi provvedimenti applicativi contengono, infatti, alcune misure che si pongono in contrasto, anche secondo un’interpretazione letterale, con la normativa contenuta nelle convenzioni sul “soccorso in mare” e nel codice della navigazione.

06/02/2023
Pandemia e diritti fondamentali: una banca dati sulla giurisprudenza in Italia e nel mondo

Sommario: 1. Introduzione – 2. I principali esiti della ricerca; primi spunti di comparazione – 3. Salute pubblica e diritti fondamentali: le questioni principalmente affrontate – 4. Focus: salute pubblica e accesso all’istruzione – 5. Focus: salute pubblica e vaccini – 6- What is next? I possibili futuri orizzonti della Covid Litigation

20/07/2022
“Sei libera ed eguale a patto che gli altri lo accettino”. Alcune riflessioni sul caso giudiziario di Cloe Bianco

La storia di Cloe Bianco è divenuta un tema centrale nel dibattito pubblico e collettivo di questi ultimi giorni. Quando vicende personali di questa natura entrano a far parte del discorso pubblico, e quindi anche della coscienza collettiva, può essere opportuno riflettere, secondo la prospettiva che a ognuno compete per background professionale o personale, su quella “porzione di complessità” della quale si possa dire con cognizione di causa, partecipando così alla rielaborazione collettiva del fatto. Ciò può aiutare la comunità, anche nei suoi diversi sottogruppi, a capire cosa è avvenuto e a elaborare argomenti e modalità di comprensione per accrescere e sviluppare la propria valutazione informata degli eventi. Come giuristi, riteniamo quindi di proporre le nostre considerazioni in merito alla vicenda giudiziaria che ha riguardato la prof.ssa  Bianco e la sanzione disciplinare che ha ricevuto dopo essersi presentata, per la prima volta, presso l’istituto scolastico dove insegnava, esprimendo, anche con il proprio aspetto, il genere (femminile) al quale sentiva di appartenere.

01/07/2022
Estrema povertà dettata da alluvioni: condizione (in)sufficiente per gli standard nazionali di protezione?

La condizione di estrema povertà dettata da cause ambientali nel Paese di origine del richiedente può essere sufficiente ai fini della protezione nazionale? Sul punto, la giurisprudenza italiana non sembra essere costante. Si propone quindi un’analisi di alcune ordinanze della Corte di Cassazione in cui le alluvioni rappresentano causa di povertà e di migrazione al fine di valutarne i diversi esiti, anche in virtù delle modifiche accorse nella legislazione vigente in materia di migrazione. 

14/02/2022