La sfida del prossimo decennio è rendere il secolo digitale compatibile con la democrazia

Hai lavorato per molti anni sull'interfaccia tra tecnologia, potere e società. Il tuo lavoro più recente, L'era del capitalismo di sorveglianza: la lotta per un futuro umano alla nuova frontiera del potere, affronta le sfide chiave poste dalle tecnologie digitali alla nostra umanità. Sei anche uno psicologo sociale con una lunga traiettoria di lavoro in gruppi di ricerca interdisciplinari. Con questo sfondo in mente, come dovremmo ripensare lo sviluppo umano oggi? Quali sono le sfide chiave? Quali sono le speranze?

Il concetto di sviluppo umano è un concetto psicologico moderno, ma il fenomeno dello sviluppo umano non è puramente moderno. C'è un arco lungo e un arco più contemporaneo. È un fenomeno che si è sviluppato nel corso dei millenni, perché lo sviluppo umano avviene all'interno delle condizioni di esistenza che si verificano nella storia. In termini di questo grande arco, lo sviluppo umano si è mosso verso un meta-processo di individualizzazione nel corso dei millenni. Se pensiamo alla storia delle mentalità e della sensibilità umana, la nozione di individuo come entità psicologica si è estrusa, elaborata con grande difficoltà e sacrificio, nel corso di molti secoli e millenni. Questo arco di millenni più ampio costituisce un lungo processo di differenziazione e di costruzione del sé. Ha prodotto gli individui psicologici a cui pensiamo oggi quando parliamo di sviluppo umano.

Questo nuovo individuo è segnato dalla costruzione dell'interiorità come ambito legittimo che – in definitiva, nella storia dell'emersione dell'interiorità individuale – assume non solo una posizione legittima, ma un'urgenza e un'autorità che in qualche modo prevale sul sociale e vita collettiva. L'individuo psicologico è fondamentale per la possibilità e l'idea stessa di democrazia, per non parlare della sua costruzione pratica, per quanto imperfetta. Non possiamo immaginare una società democratica senza immaginare individui psichici che hanno libero arbitrio, autonomia, capacità di autoreferenzialità a norme, valori e diritti, e che possono concepire situazioni in cui un riferimento interiore ai diritti fondamentali è più forte delle esigenze immediate dell'autorità o del collettivo.

L'arco contemporaneo riflette le condizioni di esistenza che viviamo oggi, che ora ci sfidano anche a guardare oltre noi stessi a causa di minacce che richiedono un'azione collettiva basata sull'attenzione alla nostra umanità condivisa. Siamo sfidati a portare le capacità di individualizzazione in un contesto più ampio, che è davvero il contesto di "noi". Le minacce odierne non possono essere affrontate unicamente con quelle apprezzate capacità di autonomia, azione e capacità di giudizio individualizzato, autoreferenzialità e autoriflessione. Non li lasciamo indietro, ma dobbiamo integrarli in uno spazio sentito più ampio, e questo differenzia ulteriormente la nostra composizione di ciò che consideriamo 'sviluppato'.

La sfida ora si sposta da questi miracoli dell'individualizzazione a una nuova frontiera che è definita dall'individuo in relazione al collettivo. Non per opposizione, dominio e sottomissione, ma per necessaria solidarietà. Questo è un nuovo tipo di sensibilità. La crisi climatica, ad esempio, richiede questo cambiamento. Non possiamo pensare a noi stessi solo come individui, il che è essenziale, ma dobbiamo anche pensare come "uno", come collettivo, come umanità, perché non c'è modo di separare la minaccia a noi stessi dalla minaccia a noi - è prima minaccia.

Considero le sfide del secolo digitale analoghe alle sfide climatiche: sfide per tutti noi e allo stesso tempo sfide per ciascuno di noi. Quando parliamo delle minacce del secolo digitale, sentiamo dire che la privacy è una delle principali. Eppure, la privacy è una "frase di cattura". Siamo nell'illusione che la privacy sia qualcosa di privato perché stiamo pensando a questo concetto attraverso la lente dell'individualizzazione. Questo diluisce il significato della privacy in una sorta di calcolo privato, calcoli che vengono sfruttati dagli imperi del capitalismo di sorveglianza.

Ad esempio, pensiamo "ti darò questa piccola informazione personale - forse una foto che pubblico sui social media - in cambio del servizio "gratuito" di condividere la mia foto con amici e familiari e di connetterci". In effetti, la privacy non può essere un calcolo privato in almeno due modi: in primo luogo, una società che ha a cuore la privacy sarà sempre fondamentalmente diversa da una società che è indifferente alla privacy. Una società sorvegliata non sarà mai la stessa di una società che dà la priorità alla privacy come diritto. Saranno in disaccordo nel loro rispetto per la dignità dell'individuo sovrano, la capacità di autonomia umana, agenzia, libero arbitrio e diritti di decisione - tutte capacità essenziali per il sé democratico. Allo stesso tempo, ogni volta che ci impegniamo in questi semplici compromessi di servizi gratuiti per un vantaggio privato, siamo catturati da una bugia. Gli imperi capitalisti della sorveglianza hanno accumulato concentrazioni senza precedenti di informazioni su di noi attraverso sistemi progettati per essere nascosti. La maggior parte di ciò che possiedono ci è stato tolto senza che ce ne rendessimo conto. Questi dati alimentano i sistemi di intelligenza artificiale per scoprire modelli e prevedere il comportamento futuro. Il risultato finale di questo scambio non ha nulla a che vedere con il nostro presunto calcolo privato; si tratta di informazioni estratte dalla nostra esperienza a nostra insaputa e senza il nostro consenso. È, molto semplicemente, sorveglianza. Scegliendo di partecipare a questi sistemi di conoscenza e potere senza precedenti, contribuiamo inconsapevolmente al monitoraggio e al controllo su larga scala della società.

Ad esempio, pubblichiamo innocentemente e volontariamente le nostre foto su Facebook e su altre parti di Internet. Quelle foto sono state scattate, a nostra insaputa e certamente senza il nostro permesso, ad esempio da Microsoft, uno dei principali capitalisti della sorveglianza, per il più grande set di dati al mondo utilizzato per addestrare algoritmi di riconoscimento facciale. Quando Microsoft ha creato il suo set di dati di formazione "Microsoft Celeb" per il riconoscimento facciale (si è scoperto che NON stavano semplicemente prendendo volti di celebrità), hanno detto che era solo per la ricerca accademica. Ma, in realtà, il set di dati è stato venduto alle forze dell'ordine, alle aziende e alle operazioni militari, inclusa la divisione militare dell'esercito cinese che incarcera i membri della minoranza musulmana uigura nello Xinjiang. L'intera provincia è essenzialmente un mini-stato di sorveglianza. Ci sono campi di detenzione specifici nello Xinjiang dove le persone sono imprigionate dalla presenza onnipresente di sistemi di riconoscimento facciale che le monitorano continuamente per strada, nelle loro case e nei loro luoghi di lavoro, ecc. Questi sistemi di riconoscimento facciale sono costruiti sui nostri volti, che abbiamo dato liberamente, nell'illusione che la privacy sia privata. No non lo è. La privacy è pubblica, un bene collettivo che ora può essere preservato solo dalla volontà collettiva.

Qui abbiamo questo esempio molto visibile di come pensare a questo problema come se fossimo solo individui, con capacità di giudizio e diritti di decisione per fare un compromesso privato, contribuisce a sistemi collettivi di tragedia e violenza, controllo e ingiustizia. Per questo lego le sfide del secolo digitale a quelle del cataclisma climatico. Sono sfide che superano la nostra capacità di risolvere come individui. Ci richiedono di integrare le nostre capacità conquistate a fatica come individui in una struttura più ampia di come pensiamo, sentiamo e agiamo come membri di una classe chiamata umanità. Questa è la sfida positiva per gli esseri umani in tutta la Terra. Questa è la nuova sfida dello sviluppo umano.

L'alternativa al nostro impegno in questa ulteriore frontiera dello sviluppo umano è già presente nella visione del nostro futuro dei capitalisti della sorveglianza. La loro soluzione consiste nell'utilizzare sistemi di monitoraggio e controllo delle popolazioni per ricostruire la società come a alveare. Questa società dell'alveare è sintonizzata e controllata a distanza da trigger psicologici, segnali subliminali, dinamiche di confronto sociale ingegnerizzate, ricompense e punizioni in tempo reale e piaceri della ludicizzazione. Sono questi gli strumenti che i tuner, quelli che amministrano l'alveare umano, si stanno inventando per ridefinire il social.

In questo futuro troviamo che invece di società, suo popolazione; invece di individui, è statistica; invece di governance democratica, suo governance computazionale, dove le popolazioni vengono sintonizzate a distanza in base a flussi di dati comportamentali e alla loro aderenza a parametri algoritmici predeterminati. Questa governance computazionale si impone come soluzione dall'alto verso il basso alle sfide emergenti dello sviluppo umano. Ciò che si sviluppa qui sono algoritmi, non persone. La governance computazionale sostituisce l'arduo e impegnativo lavoro dello sviluppo umano.

La politica dell'alveare è una politica feudale, una politica gerarchica di controllo, di specchi unidirezionali. Non richiedono violenza, terrore o omicidio, ma sono, tuttavia, sistemi di controllo unilaterale dove i meccanismi della scatola nera sono indecifrabili. In questo futuro la democrazia diventa un lontano ricordo, perché non c'è più bisogno di partecipazione, libero arbitrio, autonomia, azione, diritti di decisione o diritti fondamentali. C'è, invece, la perfetta confluenza tra l'alveare e le necessarie metriche di efficienza ed efficacia misurate non solo da esiti legati alla sopravvivenza, ma in Occidente – almeno per ora – da esiti legati al profitto e alla redditività dei sistemi che sono amministrati dai tuner, i signori feudali del governo algoritmico.

Questo è il modo in cui vedo il panorama e le sfide dello sviluppo umano. Questi sono i pensieri che vengono evocati dalle vostre domande che indagano sul significato dello sviluppo umano oggi, le sfide e la via da seguire. Se dobbiamo affrontare queste sfide, è proprio in quell'incontro, in quella stessa competizione e lotta, che ci abbandoniamo proprio a quel tipo di esperienze, processi e conflitti che sono il motore dello sviluppo umano in primo luogo.

Lo sviluppo umano avviene non attraverso l'osservazione ma attraverso la partecipazione; non solo attraverso l'armonia ma attraverso il conflitto; non solo attraverso la stabilità e la soddisfazione, ma attraverso l'instabilità, la minaccia e la risoluzione dei problemi. Queste esperienze compongono lo sviluppo umano. Il principio del piacere da solo non richiede sviluppo umano. La civiltà è il prodotto della sublimazione: dolore e contesa, insoddisfazione e ferita. Allo stesso modo, ci sviluppiamo solo perché affrontiamo sfide e concorsi. È così che nel corso dei millenni abbiamo creato lo stato di diritto e le carte dei diritti umani per sopprimere la violenza. Coinvolgere il conflitto e portarlo avanti è il modo in cui avanziamo lo sviluppo umano.

Dacci alcune considerazioni conclusive su quali speranze hai di sfruttare queste potenti tecnologie digitali e i sistemi che le creano e le gestiscono per fare le cose in modo diverso e per tornare ai valori democratici fondamentali.

Non ho altro che speranza. La sfida del prossimo decennio è come rendere compatibile il secolo digitale con la democrazia? Come creiamo un secolo digitale e un futuro digitale in grado di soddisfare le aspirazioni delle persone democratiche? Solo negli ultimi anni ci siamo resi conto che il secolo digitale si sta muovendo su una traiettoria molto diversa da quella che avevamo previsto o che avremmo scelto. Questo è il momento. Non è troppo tardi, né troppo presto, per impegnarci in questa sfida e creare i necessari quadri giuridici, paradigmi normativi, nuove forme istituzionali e nuove carte dei diritti che affermeranno la governance democratica sul digitale. Questo è il grande lavoro ora. Questo grande lavoro è in sintonia con le sfide come individui in via di sviluppo. Lo sviluppo di uno non può essere alienato dallo sviluppo di tutti.

Studioso, scrittore e attivista Shoshana Zuboff è l'autore di tre libri importanti, ognuno dei quali ha segnato l'inizio di una nuova epoca nella società tecnologica. Il suo lavoro recente, L'era del capitalismo della sorveglianza, è stato salutato come l'industria tecnologica Primavera silenziosa. Zuboff è il professore emerito Charles Edward Wilson alla Harvard Business School.

Immagine di copertina: di Baptiste Michaud via Flickr.