Un mondo che vuole mantenere lo status quo cerca di imporci la felicità come supremo dovere individuale, forse per paura di cosa potrebbe fare una società che accettasse di essere arrabbiata. Jacobin Mag intervista Edgar Cabanas ed Eva Illouz, autori di un saggio che critica il pervasivo movimento ideologico noto da vent’anni come “psicologia positiva” ed “economia della felicità”: ammantato di pretese scientifiche, è il solito vecchio puntello culturale al pensiero unico neo-liberale, che vuole convincerci di essere tutti imprenditori di noi stessi. Ma se la felicità diventa un opprimente dovere da perseguire individualmente, le implicazioni di questo sono profonde quanto già note: i grandi cambiamenti socioeconomici non sono possibili e comunque non servono, mentre i sentimenti negativi (paura, rabbia) vengono denigrati prima e poi criminalizzati.
Intervista di David Broder a Edgar Cabanas e Eva Illouz - 29 agosto 2019
La felicità suona come una bella cosa. Non per nulla c’è un sacco di gente nel mondo che è pronta a vendercela. C’è un’industria con un giro di 12 miliardi di dollari all'anno che produce libri di auto-aiuto, conferenze, materiale audiovisivo, tutta roba che ci spiega quali sono i piccoli cambiamenti che tutti noi possiamo fare per raggiungere questa elusiva esistenza felice: dal visualizzare i nostri successi futuri al perdere peso o riordinare la nostra stanza.
Fino dalla fine degli anni ’90 questa industria è sostenuta da un bastione di scientificità, ovvero dalla “psicologia positiva”, promossa dall’ex presidente della American Psychological Association, Martin Seligman. La sua idea di “ottimismo appreso”, assieme a concetti come la “mindfulness”, è diventata parte delle idee che il buon senso ci suggerisce per migliorare la nostra esistenza.
Alcuni di questi discorsi sembrano voler creare un “culto”, e assomigliano piuttosto a invocazioni a digerire una realtà della quale siamo scontenti. Viene suggerito che i nostri problemi siano tutti nelle nostre teste, così come il sentiero per trasformarci in persone migliori. Non sorprende che tutto questo venga usato nei posti di lavoro per farci restare belli sorridenti mentre facciamo quello che ci dicono di fare.
Eva Illouz e Edgar Cabanas sono gli autori del recente libro “Manufacturing Happy Citizens” [letteralmente “Fabbricare cittadini felici”, NdT], che indaga su come le nuove discipline della “economia della felicità” e della “psicologia positiva” stiano servendo come nuovi meccanismi di controllo sociale. David Broder di Jacobin li ha intervistati per chiedere loro lumi su questo culto della “felicità”, su che tipo di cittadini stiamo diventando, e sui meno felici effetti del nuovo individualismo.
DB:
Un tema chiave del libro è l’auto-disciplina individuale che è intrinseca al culto della “felicità”. Vale a dire l’idea che l’unico modo per migliorare la nostra vita sia quella di produrre una versione migliorata di noi stessi. Dal punto di vista storico si tratta di un’idea nuova?
EC/EI:
È solo vino vecchio in una botte nuova. Il nuovo culto della felicità è poco più del vecchio culto dell’individuo che si è costruito da sé [“self-made individual”, NdT] mascherato da scienza positiva con l’aggiunta di pretese di universalismo e neutralità. È un’idea che proviene da un’antica tradizione, profondamente convinta che la felicità e la sofferenza, la ricchezza e la povertà, la salute e la malattia, siano caratteristiche individuali, e che la chiave del successo risieda nel potere degli individui di risollevarsi, crescere nonostante le avversità e sviluppare il loro potenziale interiore.
Questa idea è stata diffusa da potenti istituzioni conservatrici, dalla cultura imprenditoriale e dalla letteratura sull’auto-aiuto durante il ventesimo secolo, e a partire dagli anni ’60 anche dai pensatori neo-liberali, specialmente negli Stati Uniti. Il campo della psicologia positiva è uno dei più recenti rappresentanti di questa tradizione individualistica.
Nonostante ciò, la comparsa di questo settore vent’anni fa apparve come quella di un vero innovatore, perché per la prima volta tutte queste assunzioni sembravano acquisire una legittimità scientifica. Questa è forse l’unica vera novità. Ma questo implica anche una differenza cruciale, non solo perché queste e simili idee sono prepotentemente entrate nell’ambito accademico – e dunque sono diventate materia di indagine scientifica – ma anche perché la ricerca della felicità si è trasformata da motto politico-ideologico quasi esclusivamente nord-americano a presunta questione “scientifica” di rilevanza mondiale.
Non di meno, la base scientifica che sta dietro alla psicologia positiva è stata messa seriamente in discussione. Numerose e importanti critiche sono state mosse alle fondamentali assunzioni teoriche in questo ambito, tra cui la decontestualizzazione e le pretese etnocentriche, la ipersemplificazione teorica, le tautologie e le contraddizioni, i limiti metodologici, i seri problemi di replicabilità dei risultati, le eccessive generalizzazioni e perfino l’efficacia terapeutica e lo status stesso di scientificità. Diventa quindi più che evidente che la psicologia positiva non può avere prosperato su basi esclusivamente scientifiche. Questa è una delle ragioni per le quali nel nostro libro forniamo le spiegazioni sociologiche ed economiche alla base dell’ampio successo di questo settore e delle sue idee.
DB:
Voi descrivete la nascita di strumenti come il Rapporto mondiale sulla felicità dell’ONU e la Iniziativa per il miglioramento della vita dell’OCSE, che cercano di fornire indici quantitativi della felicità umana in vari ambiti. Queste iniziative potrebbero essere percepite come un modo di ampliare l’uso degli indicatori usati per determinare le priorità politiche, al di là degli indicatori strettamente economici quali il PIL. In che senso questi strumenti sono “ideologici”? Il problema risiede negli specifici indicatori su cui essi sono basati o sull’idea stessa di indici obiettivi e universali della felicità?
EC/EI:
Entrambe le cose. Primo, le affermazioni degli “scienziati della felicità”, secondo cui la felicità sarebbe un bene auto-evidente in se stesso, così come gli obiettivi fondamentali che ciascuna società dovrebbe perseguire, sono assunti per principio più che dimostrati, sono assunzioni ideologiche dell’utilitarismo più che dati scientifici. Non c’è modo di dimostrare queste affermazioni: bisogna semplicemente prenderle per buone. Bisogna poi prendere per buono anche il fatto che la felicità sia una questione soggettiva e psicologica, indipendente da altri indicatori socioeconomici. Questo è un modo molto individualista di concettualizzare la felicità, e rappresenta precisamente il quadro teorico all’interno del quale la felicità viene “misurata”.
Non sorprende che gli esperti della felicità trovino spesso che, a dispetto di altri fattori politici e socioeconomici, l’individualismo è la variabile che è più fortemente associata alla felicità. Ma che cos’è la felicità? Non viene mai definita. A quanto pare la felicità è quella cosa che viene misurata dai questionari sulla felicità, e le domande poste da questi questionari riguardano solo atteggiamenti, sentimenti e percezioni, ma non condizioni sociali o economiche.
Per quanto riguarda i metodi, gli scienziati della felicità si basano soprattutto su misure auto-riportate di felicità, vale a dire chiedono direttamente alle persone quanto felici si sentono. Queste misure auto-riportate presentano dei problemi. Per esempio, non è chiaro se le misure della felicità siano realmente confrontabili tra individui diversi, tra paesi diversi, o perfino tra un individuo e se stesso in momenti diversi. Come facciamo a dire se un punteggio di 7 su 10 dato da qualcuno al questionario della felicità valga quanto un punteggio di 7 su 10 dato da un individuo diverso? Come facciamo a dire se un punteggio di 7 dato da un irlandese vale di più o di meno di un punteggio di 6 o 8 dato da un cambogiano o da un cinese? Un individuo che risponde con un punteggio di 5 è più felice di uno che risponde con un punteggio di 3? Ma di quanto? Qual è il significato di un punteggio di felicità di 10 su 10? Un altro problema è che questo metodo limita seriamente la varietà di risposte realmente informative che le persone possono dare rispetto alla propria felicità. Questo è importante, perché le domande a risposta chiusa rischiano non solo di orientare le risposte verso ciò che il ricercatore si aspetta di trovare, ma trascurano anche informazioni che sarebbero importanti nel momento in cui si cerca di applicare questi indici di felicità alle decisioni politiche.
Gli indicatori della felicità sono ideologici anche nel modo in cui vengono usati. Come dimostriamo nel libro, questi indicatori sono spesso serviti come copertura per nascondere difetti imporanti e strutturali del sistema economico e politico. Vale a dire, sono serviti spesso per mettere da parte e sviare l’attenzione da indicatori socioeconomici obiettivi e complessi sul benessere, quali la distribuzione del reddito, le disuguaglianze materiali, la segregazione sociale, le iniquità di genere, la salute della democrazia, la corruzione e la trasparenza, le opportunità reali e percepite, il sostegno sociale o il tasso di disoccupazione. Illustriamo questo punto con i casi esemplari di Regno Unito, Cile, India, Israele ed Emirati Arabi Uniti. In quest’ultimo caso la dice lunga il fatto che un paese caratterizzato da povertà diffusa, continue violazioni dei diritti umani, elevati tassi di malnutrizione, mortalità infantile e suicidi abbia adottato una “misura della felicità” come iniziativa principale per valutare l’impatto delle politiche nazionali. Forse lo hanno fatto perché gli Emirati Arabi Uniti vanno molto meglio negli indicatori di felicità che in qualsiasi altro dei fattori socioeconomici sopra menzionati, secondo il Rapporto mondiale sulla felicità dell’ONU, e appare tra i venti paesi più felici del mondo. Se la felicità fosse concettualizzata e misurata in modo diverso, ci troveremmo con risultati differenti.
Questi indicatori sono stati usati anche per regolare delicate questioni politiche ed economiche in un modo che si sostiene essere non-ideologico. La disuguaglianza è uno degli esempi più recenti e più chiari. Alcuni sostenitori della felicità affermano che la disuguaglianza di reddito sia più benefica per la felicità delle persone di quanto si sia pensato finora. Si sostiene che la disuguaglianza non sia accompagnata da una diminuzione delle opportunità, ma da un “fattore speranza”, in base al quale i poveri percepirebbero il successo dei ricchi come un presagio di opportunità future. Questo a sua volta dovrebbe risvegliare le speranze e la felicità, qui riferita alla maggiore motivazione che i poveri troverebbero in vista di una possibile prosperità. In che termini questo può essere visto come qualcosa di diverso da una serie di assunzioni ideologiche? A quanto dicono, le loro affermazioni sarebbero sostenute dai dati. Tuttavia, come Stevenson e Wolfers hanno mostrato rispetto alle relazioni tra felicità e reddito, lo stesso insieme di dati si presta a molte diverse interpretazioni e può portare anche a conclusioni del tutto opposte.
In definitiva, il problema principale degli indici di felicità non è che essi siano ideologici – a dire il vero, qualsiasi indice volto a misurare il progresso è ideologico, a partire dal concetto stesso di progresso. Il problema principale è che questi indici della felicità tentano di presentarsi come criteri obiettivi e neutrali, spogliati da qualsiasi contenuto morale, politico o ideologico. Come mostriamo nel nostro libro, questa presunta neutralità va rifiutata.
DB:
Il libro discute l’ascesa della psicologia positiva alla fine degli anni ’90 su spinta dell’allora presidente dell’APA Martin Seligman. Si tratta di un progetto che descrivete in termini di un’epifania, una rivelazione quasi religiosa, come fosse una “rinascita”. I suoi sviluppi sono a loro volta legati all’avanzata dei libri e delle varie idee di “auto-aiuto” per la realizzazione del potenziale individuale. Cosa c’è di comune tra la psicologia positiva e l’industria dell’auto-aiuto da un lato, e i culti e l’evangelismo religioso dall’altro? Cosa dobbiamo pensare della sua pretesa “scientifica” di estendere la psicologia oltre il terreno della malattia mentale?
EC/EI:
Sebbene gli psicologi positivi abbiano ripetutamente fatto sforzi per minimizzare il peso dell’etnocentrismo e delle radici spirituali, la verità è che le loro connessioni istituzionali e le loro affermazioni rivelano profonde assunzioni spirituali e religiose.
Non c’è forse istituzione che più della John Templeton Foundation – fondata nel 1978 dall’anziano presbitero, investitore finanziario e filantropo Sir John Templeton – abbia attivamente sostenuto l’unione di scienza e religione. In questo lo stesso Templeton ha investito centinaia di milioni di dollari. Il coinvolgimento finanziario di Templeton nella fondazione e nella diffusione della psicologia positiva è stato cruciale. La sola fondazione ha visto l’investimento di decine di milioni di dollari nei programmi di ricerca di psicologia positiva per lo studio della salute positiva, dell’istruzione positiva, della resilienza, della mindfulness, delle neuroscienze positive, della trascendenza, della spiritualità, della speranza, del perdono, del potere della volontà e della perseveranza nel raggiungimento degli obiettivi, per citarne alcuni. Lo stesso Martin Seligman ha ripetutamente riconosciuto il ruolo cruciale della Templeton Foundation nel successo della psicologia positiva. Questo comprende l’istituzione del Centro per la psicologia positiva in Pennsylvania, la creazione di una rete istituzionale globale di riviste scientifiche e pubblicazioni, programmi di dottorato e corsi di laurea specializzati in corsi sulla psicologia positiva, simposi e laboratori, nonché generose borse di studio e premi per ricercatori sia giovani che senior sotto il nome di Templeton Prize for Positive Psychology, considerato il più ricco riconoscimento monetario al mondo assegnato in ambito psicologico.
Da questo punto di vista, per esempio, una delle principali linee di ricerca, coordinate da Seligman e sviluppate da George Vaillant, ha due obiettivi fondamentali. Primo, combinare l’integrazione dei vari risultati provenienti dall’antropologia culturale, dalle neuroscienze e dalla biologia evoluzionistica con lo studio delle biografie di individui che riflettono profonde componenti spirituali. Secondo, indagare il ruolo della spiritualità nella vita di successo. Molti altri psicologi positivi hanno difeso attivamente l’importanza della relazione tra spiritualità, salute e felicità.
Per esempio, nel suo libro “The How of Happiness: A New Approach to Getting the Life You Want” ("Il come della felicità: un nuovo approccio per ottenere la vita che vuoi", ndt) Sonja Lyubomirsky afferma che le persone religiose sono più felici, più sane e recuperano prima dai traumi rispetto alle persone non religiose. Lyubomirsky trascura l’evidenza che mostra che la maggiore felicità delle persone religiose è mediata dal mutuo sostegno, dal senso di comunità e dalle cure istituzionali, e difende invece la spiritualità e la religione come una questione strettamente individuale, affermando che semplicemente attraverso la fede religiosa le persone possono aumentare la propria salute e la propria felicità. A questo proposito non sorprende che esercizi come contare le benedizioni, scrivere lettere di perdono, esprimere gratitudine o praticare regolarmente la meditazione siano tra i più frequenti rimedi che la psicologia positiva offre ai problemi della gente, presentati come chiavi psicologiche per una vita più piena e di successo. Questi sono solo alcuni esempi, ma ce ne sarebbero molti altri. Simili affermazioni vengono fatte anche dalla letteratura sull’auto-aiuto.
DB:
Voi citate Margaret Thatcher come esempio del fatto che il neo-liberalismo non è solo un progetto economico, ma un progetto che usa l’economia per rimodellare i pensieri e i sentimenti delle persone. In effetti l’idea di “auto-aiuto” sembra rappresentare un’ideologia potentemente individualizzante, che scarica sull’individuo stesso tutta la responsabilità delle sue scelte e delle sue possibilità nella vita. Se siete infelici non è colpa della società, è solo colpa vostra. Quali connessioni ci sono tra la “economia della felicità”, la psicologia positiva e l’industria dell’auto-aiuto da un lato, e le forze politiche organizzate, quali ad esempio i think tank neo-liberali, dall’altro?
EC/EI:
Ci sono due connessioni principali. La prima è politica e fa riferimento al fatto che molti psicologi positivi ed economisti della felicità, tra cui ovviamente le figure leader, non sono semplici ricercatori, ma occupano importanti posizioni di potere e di influenza. Non si tratta solo dell’ambito accademico, ma anche dell’influenza economica e delle istituzioni sociali globali. Alcuni vengono chiamati come consiglieri in materia economica o di istruzione. Molti altri vengono frequentemente ingaggiati da grandi aziende e alcuni sono perfino a capo di iniziative di alto profilo nell’esercito statunitense.
La seconda connessione è di tipo ideologico. Consideriamo ad esempio l’ambito dell’istruzione. Gli “educatori positivi” lavorano su due precetti principali: primo, che promuovere le “abilità psicologiche della felicità” nei giovani non è solo un obiettivo desiderabile per se stesso, ma anche un mezzo importante per la prevenzione della psicopatologia, una strada verso un migliore apprendimento e un maggiore successo accademico; secondo, che i fattori psicologici sono fondamentali per il successo scolastico, più di quanto lo siano i fattori sociologici o contestuali. Negli anni tra il 2008 e il 2018 la “istruzione positiva” si è progressivamente stabilita come priorità in ambito scolastico in molti paesi del mondo. Sono emerse un numero crescente di associazioni private e pubbliche, think tank, consulenti e reti globali volte a persuadere i decisori politici a modificare le modalità educative di modo che i professionisti vengono incoraggiati, ovunque nel mondo, a educare il carattere al benessere psicologico. Questo, per esempio, è il caso dell’International Positive Education Network creato nel 2014.
Queste iniziative hanno bisogno di sostegno scientifico, e il ruolo degli psicologi positivi e degli economisti della felicità da questo punto di vista è fondamentale. Questi ultimi hanno sostenuto che l’istruzione positiva implichi un cambiamento rivoluzionario nel modo in cui gli studenti dovrebbero essere istruiti ed educati, mettendo in luce le ragioni di un’istruzione rivolta alla felicità non solo al fine di migliorare l’istruzione, ma anche l’economia. Affermano che ri-orientare le istituzioni scolastiche verso l’istruzione positiva, cambiando gli atteggiamenti di insegnanti, studenti e genitori offrirebbe alternative più economiche per la soluzione dei problemi scolastici. Gli psicologi positivi sostengono che la felicità dovrebbe essere insegnata nelle istituzioni scolastiche come antidoto alla depressione e come veicolo per aumentare la soddisfazione nella vita e come aiuto per il pensiero creativo.
A dire la verità, non c’è evidenza scientifica a sostegno delle affermazioni secondo le quali l’istruzione positiva funzionerebbe nel senso di migliorare gli standard, con risultati scolastici migliori e un migliore apprendimento da parte degli studenti. Al contrario, numerose rassegne critiche, articoli e meta-analisi mettono in luce le gravi limitazioni e i problemi dell’istruzione positiva in termini sia teorici che metodologici, riferendosi alla mancata replicabilità dei risultati e di studi comparativi, all’insufficiente evidenza empirica, a risultati scientifici deboli o che mostrano addirittura esiti controproducenti. Quindi, una volta ancora, sembra che il successo di queste idee sia più legato a ragioni ideologiche che alla qualità della ricerca.
DB:
Voi riportate la formula della felicità postulata da Seligman, secondo la quale i fattori genetici contribuiscono per il 50 per cento a determinare la nostra felicità, quelli cognitivi, emotivi, e le nostre scelte per il 40 per cento, e i fattori esterni quali l’istruzione e le risorse materiali solo per il 10 per cento. Questo sembra ovviamente negare l’importanza delle condizioni sociali nel determinare la nostra felicità. Ma cosa ci dite delle basi ideologiche di questa formula, che attribuisce così tanta importanza non solo alle nostre scelte soggettive, ma anche alle basi genetiche?
EC/EI:
Il tempo ha mostrato che questa cosiddetta formula non ha alcuna validità scientifica. Perfino gli psicologi positivi l’hanno ritrattata.
Da un lato, però, legare la felicità alle basi genetiche individuali ha funzionato bene, non solo per passare sugli studi sulla felicità una verniciata di “scienza dura”, ma anche per differenziare ciò che l’ambito può offrire da ciò che altri scrittori dell’auto-aiuto ed esperti della felicità (consulenti, motivatori) possono offrire.
Dall’altro lato, legare la felicità alle basi genetiche era un altro modo per sottolineare l’idea principale di fondo, quella secondo cui i fattori non-individuali giocano un ruolo complessivamente insignificante nel benessere delle persone (appena il 10 percento). Insomma, minimizzare – se non negare completamente – il ruolo delle circostanze oggettive nel determinare la felicità delle persone è stato uno dei marchi di fabbrica di questa disciplina fin dalle origini.
Tuttavia, se ciò che dicono gli psicologi positivi fosse vero, ne dovrebbe seguire direttamente una conclusione: perché dare la colpa alle strutture sociali, alle istituzioni o alle misere condizioni di vita quando le persone hanno sentimenti di depressione, stress o ansia per il proprio futuro? Perché riconoscere che condizioni di vita privilegiate fanno sì che le persone si sentano e vivano bene? Non si tratta forse di un altro modo per giustificare l’assunzione meritocratica secondo la quale, dopotutto, ognuno ha quello che si merita? In fondo, se i fattori non-individuali sono praticamente esclusi dalla formula, che altro resta se non il merito, lo sforzo, la tenacia, a spiegare perché le persone sono felici o infelici?
DB:
Voi parlate di “capitale psicologico” e dell’imperativo di mantenere un ottimismo costante come base per il progresso di ciascuno come “imprenditore di se stesso”. Ma se queste sono forze disciplinanti, volte a modellare i cittadini neo-liberali che vedono se stessi solo come individui sul mercato, ci servono allora forme alternative di ottimismo collettivo – come la fiducia, portata avanti storicamente dal movimento socialista, nel fatto che possiamo realmente scegliere il percorso della felicità, però non su base individuale? O dobbiamo fare una critica più generale alla felicità stessa come obiettivo?
EC/EI:
Uno dei punti principali che sviluppiamo nel libro è la relazione tra la felicità, la gestione aziendale, l’imprenditorialità e il lavoro. Sviluppiamo l’argomento secondo il quale la felicità è diventata una strategia utile a giustificare le gerarchie organizzative implicite di controllo e di sottomissione alla cultura aziendale.
Laddove i posti di lavoro promettono maggiore responsabilizzazione ed emancipazione dal controllo aziendale, un’occhiata più attenta alle realtà organizzative mostra che la promozione della “felicità nel lavoro” è stata particolarmente efficace proprio a ottenere l’opposto. La felicità nel lavoro è tornata comoda, in realtà, per spingere il peso della responsabilità più in basso nella gerarchia, rendendo i semplici impiegati responsabili dei propri successi e dei fallimenti, ma anche di quelli della loro azienda. La felicità nel lavoro si è dimostrata conveniente per chiedere ai lavoratori più impegni e più prestazioni, spesso in cambio di ricompense comparativamente inferiori. È servita per togliere l’accento dalle condizioni oggettive del lavoro – incluso il salario – nel momento in cui i lavoratori valutavano la propria soddisfazione. È servita per incoraggiare gli impiegati ad agire autonomamente nel momento in cui vengono costretti a conformarsi alle aspettative aziendali, a identificarsi nei valori dell’azienda e a dimostrare acquiescenza e conformismo alle norme aziendali.
Cosa più importante, la felicità nel lavoro si è dimostrata utile a rendere più tollerabili o perfino accettabili ai lavoratori le contraddizioni e l’auto-sfruttamento che si attuano nel lavoro. Dai lavoratori oggi non ci si aspetta più soltanto che si adattino flessibilmente e con i propri mezzi a richieste in continuo cambiamento e alle necessità dell’azienda, che facciano fronte personalmente alle circostanze avverse, alle inevitabili sconfitte e a carichi di lavoro crescenti, che adottino ruoli più attivi, più creativi e auto-diretti nelle proprie mansioni. Ci si aspetta anche che amino quello che fanno e che lo vedano non come una necessità, ma come una fonte di piacere e di auto-realizzazione. Ad ogni modo, se i lavoratori non sembrano avere beneficiato granché da tutta questa promozione della felicità nel lavoro, ne hanno certamente beneficiato le aziende.
Se dobbiamo proprio dire la verità, quello che fa felici le aziende non è lo stesso che fa felici i lavoratori. Questo non significa che le aziende non debbano preoccuparsi dei propri dipendenti. Ma sarebbe ingenuo pensare che i meccanismi di controllo siano scomparsi dalla sfera organizzativa. Sono solo stati internalizzati.
Detto questo, e considerando l’insieme, se alla fine scoprissimo che la felicità è quella cosa che le aziende, gli alfieri neo-liberali e l’enorme industria della felicità trovano così utile ai propri scopi, allora la risposta alla domanda sarebbe che la ricerca della felicità ci chiede troppo in cambio, e che probabilmente prima o poi si ritorcerà contro i più vulnerabili. Se invece scoprissimo che la felicità non è questo – e che le aziende, gli alfieri neo-liberali e l’industria della felicità si sono solo appropriati di una parola a proprio vantaggio – allora non dobbiamo abbandonare la felicità, ma ripensarla in una prospettiva più sociale e culturale.
Certo, abbiamo bisogno di speranza e di obiettivi che meritino di essere raggiunti. Ma ne abbiamo bisogno senza quell’ottimismo tirannico, sordo, conformista e quasi religioso che ci propinano assieme alla felicità. Abbiamo bisogno di un tipo di felicità basata sull’analisi critica, la giustizia sociale e l’azione collettiva, non di una felicità paternalistica che decide per noi quello di cui abbiamo bisogno. Abbiamo bisogno di una felicità che non si ritorca contro i più vulnerabili. Abbiamo bisogno di una felicità che non consista in un’ossessione verso la nostra interiorità e il sé, perché l’interiorità non è dove vogliamo costruire e trascorrere la nostra vita, e non è certo il posto dove riusciremo a ottenere dei cambiamenti sociali significativi.
Visualizzazione post con etichetta controllo sociale. Mostra tutti i post
Visualizzazione post con etichetta controllo sociale. Mostra tutti i post
01/09/19
03/02/18
Big Data e il Grande Fratello si incontrano in Cina, dove ogni cittadino ha un punteggio
La sfida per il nostro futuro si gioca ormai non tanto sulla disponibilità di risorse materiali ma sul controllo delle informazioni. La privacy ormai diviene il bene più prezioso che un individuo possa possedere. Mentre ovunque nel mondo si assiste ad un'acritica celebrazione della trasparenza, della condivisione di informazioni personali e di un non ben specificato ideale astratto di "onestà", un articolo recentemente apparso su Wired descrive uno scenario distopico ma neanche troppo distante in cui tali attuali tendenze vengono lasciate alla loro traiettoria naturale. Si tratta di un inquietante esperimento attualmente in corso in Cina, con il quale il governo ha intenzione di creare un enorme, spaventoso sistema di valutazioni a punteggi in stile Tripadvisor per ogni singolo essere umano presente nel territorio cinese. Un incubo kafkiano di controllo sociale che non ha precedenti, ma le cui premesse divengono sempre più presenti e familiari anche in occidente.
Di Rachel Botsman, 21 ottobre 2017
Il 14 giugno 2014 il Consiglio di Stato della Cina ha pubblicato un inquietante documento intitolato "Linee guida per la costruzione di un sistema di affidabilità sociale". Come consuetudine per i documenti politici cinesi, si tratta di un testo lungo e piuttosto arido, ma che contiene un'idea radicale. E se esistesse una parametro di affidabilità nazionale per classificare i cittadini?
Immaginiamo un mondo in cui la maggior parte delle attività quotidiane sono costantemente monitorate e valutate: gli acquisti nei negozi e online; la nostra posizione in qualsiasi momento; chi sono i nostri amici e come interagiamo con loro; le ore passate a guardare video o giocare ai videogiochi; le fatture e tasse pagate (o no). Non è difficile da immaginare, perché in buona parte parte ciò avviene già, grazie a tutti quei colossi che raccolgono dati come Google, Facebook e Instagram o ad app di monitoraggio della salute come Fitbit. Ma ora immaginiamo un sistema in cui tutti questi comportamenti sono valutati come positivi o negativi e riassunti in un unico numero, secondo regole stabilite dal governo. Ciò creerebbe un punteggio personale del cittadino per valutarne l’affidabilità. Tale punteggio sarebbe inoltre pubblicamente raffrontato con quello dell'intera popolazione e usato per valutare l’idoneità ad ottenere un mutuo o un lavoro, la scuola dei figli - o anche solo le chance di essere considerati desiderabili dall’altro sesso.
Una visione futuristica da Grande Fratello fuori da ogni controllo? No, è già in atto in Cina, dove il governo sta sviluppando il Social Credit System (SCS) per valutare l'affidabilità dei suoi 1,3 miliardi di cittadini. Il governo cinese sta promuovendo il sistema come un modo desiderabile per misurare e migliorare la "fiducia" a livello nazionale e per costruire una cultura di "sincerità". Come afferma il documento, "Forgerà un ambiente di opinione pubblica dove mantenere la fiducia è onorevole. Rafforzerà la sincerità negli affari del governo, la sincerità commerciale, la sincerità sociale e la costruzione della credibilità giudiziaria".
Altri sono meno ottimisti riguardo al suo scopo più ampio. "È molto ambizioso sia come profondità che come portata, compreso il controllo del comportamento individuale e dei libri che si leggono. Una sorta di monitoraggio dei consumatori di Amazon in veste politica orwelliana ", così definisce il sistema di credito sociale Johan Lagerkvist, esperto di internet cinese presso l'Istituto svedese per gli affari internazionali. Rogier Creemers, un ricercatore specializzato in diritto e governance cinese presso l'Istituto Van Vollenhoven dell'Università di Leida, che ha pubblicato una traduzione completa del piano, lo ha paragonato a "recensioni di Yelp con uno Stato-bambinaia che sorveglia da dietro le spalle".
Per ora, tecnicamente, la partecipazione al Citizen Scores in Cina è volontaria. Ma entro il 2020 sarà obbligatoria. Il comportamento di ogni singolo cittadino e persona giuridica in Cina (sono incluse anche società o altri enti) sarà valutato e classificato, con o senza il loro consenso.
Prima di implementarlo a livello nazionale nel 2020, il governo cinese sta adottando un approccio watch-and-learn. In questo matrimonio tra sorveglianza comunista ed efficientismo capitalista, il governo ha concesso ad otto compagnie private la licenza di elaborare sistemi e algoritmi per i punteggi di credito sociale. Prevedibilmente, attualmente sono i giganti di dati a gestire due dei progetti principali.
Il primo è China Rapid Finance, partner del colosso social network Tencent e sviluppatore dell'applicazione di messaggistica WeChat con oltre 850 milioni di utenti attivi. L'altro, Sesame Credit, è gestito da Ant Financial Services Group (AFSG), una società affiliata ad Alibaba. Ant Financial vende prodotti assicurativi e offre prestiti a piccole e medie imprese. Tuttavia, la vera star di Ant è AliPay, il suo ramo che si occupa di di pagamenti e che le persone usano non solo per comprare cose online, ma anche per pagare ristoranti, taxi, tasse scolastiche, biglietti per il cinema e anche per trasferire denaro.
Sesame Credit ha inoltre collaborato con altre piattaforme generatrici di dati, come Didi Chuxing, la società di corse in taxi su richiesta che era il principale concorrente di Uber in Cina prima di acquisire la concessionaria cinese della compagnia americana nel 2016, e Baihe, il più grande servizio online per cuori solitari del paese . Non è difficile vedere come tutto ciò si aggiunga alla gigantesca mole di dati cui Sesame Credit può attingere per valutare come le persone si comportano e valutarle di conseguenza.
Ma come vengono valutate le persone? Sesame Credit classifica gli individui con un punteggio compreso tra 350 e 950 punti. Alibaba non divulga il "complesso algoritmo" che usa per calcolare il numero ma rivela i cinque fattori presi in considerazione. Il primo è la solvibilità. Ad esempio, il cittadino paga la bolletta elettrica o telefonica in tempo? Secondariamente, la capacità di adempimento, definita nelle sue linee guida come "la capacità di un utente di adempiere ai propri obblighi contrattuali". Il terzo fattore sono le caratteristiche personali, la verifica delle informazioni personali come il numero di cellulare e l'indirizzo. Ma la quarta categoria, il comportamento e le preferenze, è dove la storia diventa interessante.
In base a questo sistema, una cosa innocua come le abitudini di acquisto di una persona ne diventa una misura del carattere. Alibaba ammette di classificare le persone in base al tipo di prodotti acquistati. "Chi gioca a videogiochi per dieci ore al giorno, ad esempio, è considerato una persona inattiva", dice Li Yingyun, direttore tecnologico di Sesame. "Chi compra spesso pannolini è considerato un probabile genitore, che a conti fatti ha maggiori probabilità di avere un senso di responsabilità". Quindi il sistema non solo indaga sul comportamento, ma lo modella. "Allontana" i cittadini da acquisti e comportamenti sgraditi al governo.
Anche gli amici contano. La quinta categoria sono infatti le relazioni interpersonali. Cosa rivela la scelta di amici online e le interazioni sulla persona che viene valutata? Condividere ciò che il Sesame Credit definisce "energia positiva" online, messaggi a favore del governo o su come vada bene l'economia del Paese farà aumentare il punteggio.
Alibaba ribadisce che, attualmente, qualsiasi cosa negativa pubblicata sui social media non influenza i punteggi (ma non si sa se questo è vero o meno perché l'algoritmo è segreto). Ma si può comprendere come ciò potrebbe accadere quando il sistema governativo di valutazione dei cittadini sarà ufficialmente implementato nel 2020. Anche se al momento sembra che nessuna delle otto società private coinvolte nel progetto pilota in corso sarà alla fine responsabile della gestione del sistema definitivo, è difficile credere che il governo non tenti di estrarre la quantità massima di dati per il suo SCS, fin dall’esperimento pilota. Se ciò accadesse e diventasse la norma con il SCS del governo, le piattaforme private agirebbero essenzialmente come agenzie di spionaggio per il governo. Potrebbero anche non avere scelta.
Pubblicare opinioni politiche o collegamenti dissenzienti citando Piazza Tiananmen non è mai stato saggio in Cina, ma ora potrebbe danneggiare direttamente il rating di un cittadino. Ma ecco il vero pezzo forte: il punteggio di una persona sarà anche influenzato da quello che dicono e fanno i loro amici online, al di là degli effettivi contatti con loro. Se qualcuno con cui si è connessi pubblica online un commento negativo, il punteggio di entrambi si abbasserà.
Ma allora, perché milioni di persone hanno già aderito a ciò che equivale a un periodo di prova per un sistema di sorveglianza del governo approvato pubblicamente? Ci possono essere motivi più oscuri, non dichiarati - paura di rappresaglie, per esempio, per coloro che non alzano la mano - ma c'è anche l’effetto-esca, sotto forma di ricompense e "privilegi speciali" per quei cittadini che si dimostrano essere "degni di fiducia" su Sesame Credit.
Se il punteggio raggiunge i 600 punti, si può richiedere un prestito Just Spend fino a 5.000 yuan (circa £ 565) da utilizzare per acquisti online, ovviamente su un sito Alibaba. Raggiungendo i 650 punti, si può noleggiare un'auto senza lasciare un deposito. Si ha anche diritto a un check-in più veloce negli hotel e al check-in VIP all'aeroporto internazionale di Pechino. Chi accumula più di 666 punti può ottenere un prestito in contanti fino a 50.000 yuan (£ 5.700), ovviamente da Ant Financial Services. Oltre i 700 punti si può fare domanda per viaggiare a Singapore senza documenti giustificativi come una lettera del datore di lavoro. E una volta accumulati 750 punti, si ottiene il rilascio veloce dell’ambìto visto Schengen paneuropeo. "Penso che il sistema possa essere descritto al meglio come una specie di figlio bastardo di un programma fedeltà", afferma Creemers.
I punteggi più alti sono già diventati uno status symbol, con quasi 100.000 persone che si vantano dei loro punteggi su Weibo (l'equivalente cinese di Twitter) pochi mesi dopo il lancio. Il punteggio di un cittadino può anche influire sulle probabilità essere considerati buoni partiti, o di trovare un partner da sposare, perché più alto è il loro punteggio Sesame, meglio piazzato è il loro profilo sul sito matrimoniale Baihe.
Sesame Credit offre già suggerimenti per aiutare le persone a migliorare il proprio ranking, incluso l'avvertimento sui rischi di stringere amicizia con qualcuno che ha un punteggio basso. Ciò potrebbe portare all'aumento dei consulenti per i punteggi, che condivideranno consigli su come guadagnare punti, o consulenti di reputazione sociale disposti a offrire consigli specialistici su come migliorare strategicamente una classifica o uscire dalla lista nera.
In effetti, il sistema di credito sociale del governo è fondamentalmente una versione Big Data dei metodi di sorveglianza del Partito Comunista; l'inquietante dang'an. Il regime mantiene da sempre dossier su ogni individuo, dove vengono registrate tutte le trasgressioni politiche e personali. Il dang'an di un cittadino li segue per tutta la vita, dalle scuole al lavoro. Le persone comuni possono fornire informazioni su amici e persino familiari, sollevando sospetti e abbassando la fiducia sociale in Cina. La stessa cosa succederà con i dossier digitali. Tutti avranno un incentivo a dire ai loro amici e familiari: "Non pubblicare questo. Non voglio che tu danneggi il tuo punteggio, ma soprattutto non voglio che danneggi il mio."
Assisteremo sicuramente anche alla nascita di mercati neri della reputazione, che vendono espedienti sottobanco per migliorare l'affidabilità. Così come possono essere acquistati i Mi piace di Facebook e i follower di Twitter, le persone pagheranno per manipolare il loro punteggio. Che dire poi della sicurezza del sistema? Gli hacker (alcuni persino al servizio dello stato) potrebbero modificare o rubare le informazioni archiviate digitalmente.
Il nuovo sistema riflette un astuto cambio di paradigma. Come si può intuire, invece di cercare di rafforzare la stabilità o la conformità col bastone e una buona dose di paura dall'alto verso il basso, il governo cerca di trasformare l'obbedienza in un gioco. È un metodo di controllo sociale mascherato da un sistema di punti-ricompensa. È obbedienza gamificata.
In un quartiere alla moda nel centro di Pechino, nell'ottobre 2015 la BBC fece un servizio in cui chiedeva alla gente un parere sui rating di Sesame. La maggior parte parlava dei lati positivi. E dopo tutto, chi potrebbe criticare pubblicamente il sistema? Il punteggio potrebbe risentirne. È allarmante che pochissime persone abbiano capito fino a che punto un cattivo punteggio potrebbe danneggiarli in futuro. Ancora più preoccupante è il numero di persone che non avevano idea di essere sotto esame.
Al momento Sesame Credit non penalizza direttamente le persone per la loro "inaffidabilità" - è più efficace far abboccare le persone con gli zuccherini per un buon comportamento. Tuttavia Hu Tao, presidente di Sesame Credit, avverte che il sistema è progettato in modo che "le persone non affidabili non possano noleggiare un'auto, non possano prendere in prestito denaro o addirittura non possano trovare un lavoro". Ha persino rivelato che Sesame Credit ha contattato l'Ufficio Educazione cinese per condividere un elenco degli studenti che hanno copiato agli esami nazionali, al fine di far loro pagare in futuro la loro disonestà.
Le sanzioni cambieranno radicalmente quando il sistema governativo diventerà obbligatorio nel 2020. Infatti, il 25 settembre 2016, l'Ufficio generale del Consiglio di Stato ha aggiornato la sua politica intitolata "Meccanismi di allarme e sanzioni per le persone soggette a misure esecutive per violazioni di fiducia". Il principio fondamentale è semplice: "Se la fiducia è violata in un aspetto, le restrizioni sono imposte ovunque", afferma il documento politico.
Ad esempio, le persone con un basso rating avranno una velocità più bassa di internet; accesso limitato a ristoranti, locali notturni o campi da golf; e la rimozione del diritto di viaggiare liberamente all'estero con "controlli restrittivi sui consumi all'interno delle aree di vacanza o di viaggio". I punteggi influenzeranno le domande di noleggio di un individuo, la sua capacità di ottenere un'assicurazione o un prestito e anche benefici di sicurezza sociale. I cittadini con punteggi bassi non saranno assunti da determinati datori di lavoro e sarà loro impedito di ottenere alcuni posti di lavoro, incluso il servizio civile, il giornalismo e i campi legali, dove ovviamente si deve essere considerati degni di fiducia. Inoltre i cittadini di basso profilo saranno soggetti a restrizioni quando iscrivono se stessi o i loro figli in scuole private costose. Per quanto inverosimile, questa lista di sanzioni è autentica. È la realtà che i cittadini cinesi dovranno affrontare. Come afferma il documento governativo, il sistema di credito sociale "permetterà agli affidabili di muoversi liberamente ovunque sotto il cielo rendendo difficile per i discreditati fare un singolo passo".
Secondo Luciano Floridi, professore di filosofia ed etica dell'informazione all'Università di Oxford e direttore della ricerca presso l'Oxford Internet Institute, tre sono stati i "cambiamenti decentranti" critici che hanno alterato il nostro punto di vista sull'auto-comprensione: Il modello di Copernico della Terra in orbita attorno al Sole; la teoria di Darwin sulla selezione naturale; e l'affermazione di Freud secondo cui le nostre azioni quotidiane sono controllate dalla mente inconscia.
Floridi ritiene che stiamo entrando nella quarta fase, poiché ciò che facciamo online e offline si fondono in un “onlife”. Asserisce che, poiché la nostra società diventa sempre più una infosfera, una miscela di esperienze fisiche e virtuali, stiamo acquisendo una personalità della vita - diversa da ciò che siamo solo nel "mondo reale". Lo si vede bene su Facebook, dove le persone presentano un ritratto modificato o idealizzato delle loro vite. O si pensi a Uber. I clienti non sono forse un po’ più gentili con gli autisti perché sanno di essere valutati? Ma le valutazioni Uber non sono nulla in confronto a Peeple, un'app lanciata a marzo 2016, che è come un Yelp per gli umani. Peeple consente di assegnare voti e recensioni a tutti quelli che si conoscono: il coniuge, il vicino, il capo e persino un ex. Un profilo visualizza un "Numero Peeple", che è un punteggio basato su tutti i feedback e le raccomandazioni ricevuti. Ciò che è peggio, una volta che un nome entra nel sistema Peeple, resta lì per sempre. Non se ne può uscire.
Peeple proibisce certi comportamenti ostili come menzionare le condizioni di salute private, usare un linguaggio volgare o sessista (sempre che sia possibile valutare oggettivamente che lo sia). Ma ci sono poche regole su come le persone sono classificate o sugli standard di trasparenza.
Per quanto il sistema di fiducia della Cina sia ancora volontario, ha già dato delle conseguenze. Nel febbraio 2017, la Corte Suprema del Popolo del paese ha annunciato che a 6,15 milioni dei suoi cittadini era stato vietato di prendere un aereo negli ultimi quattro anni per infrazioni sociali. Il divieto viene indicato come un primo passo verso la lista nera della SCS. "Abbiamo firmato un memorandum... [con oltre] 44 dipartimenti governativi al fine di limitare le persone" screditate "su più livelli", afferma Meng Xiang, capo del dipartimento esecutivo della Corte Suprema. Un altro 1,65 milioni di persone nella lista nera non possono prendere treni.
Dove questi sistemi realmente entrano in un territorio da incubo è il fatto che gli algoritmi di fiducia usati sono ingiustamente riduttivi. Non tengono conto del contesto. Ad esempio, una persona potrebbe mancare il pagamento di una fattura o una multa perché si trova in ospedale; un altro potrebbe semplicemente essere uno scroccone. E qui sta la sfida che tutti noi dobbiamo affrontare nel mondo digitale, e non solo i cinesi. Se gli algoritmi per controllare la nostra vita sono qui per restare, dobbiamo capire come possano tener conto delle sfumature, le incoerenze e le contraddizioni insite negli esseri umani e come possano riflettere la vita reale.
Si potrebbe vedere il cosiddetto piano di fiducia della Cina come un misto tra 1984 di Orwell e i cani di Pavlov. Comportati da buon cittadino, raccogli il premio e fai finta di divertirti. Vale la pena ricordare, tuttavia, che i sistemi di punteggio personali sono già presenti in Occidente da decenni.
Più di 70 anni fa, due uomini chiamati Bill Fair e Earl Isaac inventarono i punteggi di affidabilità creditizia. Oggi, le aziende utilizzano i punteggi FICO per determinare molte decisioni finanziarie, tra cui il tasso di interesse sui mutui o l’eleggibilità a ricevere un prestito.
La maggior parte dei cinesi non ha mai avuto punteggi di credito e quindi non può ottenere crediti. "Molte persone non possiedono case, auto o carte di credito in Cina, quindi quel tipo di informazioni non è disponibile per la misurazione", spiega Wen Quan, un influente blogger che scrive di tecnologia e finanza. "La banca centrale ha i dati finanziari di 800 milioni di persone, ma solo 320 milioni hanno una storia di credito tradizionale". Secondo il Ministero del commercio cinese, la perdita economica annuale causata dalla mancanza di informazioni sul credito è superiore a 600 miliardi di yuan (68 miliardi di sterline).
La mancanza di un sistema di credito nazionale da parte della Cina è il motivo per cui il governo è fermamente convinto che i punteggi dei cittadini sono ormai urgenti e assolutamente necessari per fissare quello che definiscono un "deficit di fiducia". In un mercato scarsamente regolamentato, la vendita di prodotti contraffatti e non conformi è un problema enorme. Secondo l'Organizzazione per la cooperazione e lo sviluppo economico (OCSE), il 63 per cento di tutti i prodotti contraffatti, dagli orologi alle borse agli alimenti per l'infanzia, proviene dalla Cina. "Il livello di micro corruzione è enorme", afferma Creemers. "Quindi, se questo particolare schema si traduce in una supervisione e una responsabilità più efficaci, sarà probabilmente accolto con favore".
Il governo sostiene inoltre che il sistema è un modo per far rientrare quelle persone tagliate fuori dai tradizionali sistemi di credito, come studenti e famiglie a basso reddito. Il professor Wang Shuqin dell'Ufficio di Filosofia e Scienze Sociali della Capital Normal University in Cina ha recentemente vinto la gara per aiutare il governo a sviluppare il sistema che lui definisce "Sistema sociale cinese della fedeltà". Senza un tale meccanismo, fare affari in Cina è rischioso, sottolinea, poiché circa la metà dei contratti firmati non viene mantenuta. "Data la velocità dell'economia digitale, è fondamentale che le persone possano verificare rapidamente l’affidabilità creditizia dei partner d’affari", afferma. "Il comportamento della maggioranza è determinato dal loro mondo di pensare. Una persona che creda nei valori fondamentali socialisti si comporta in modo più decente". Gli "standard morali" che il sistema valuta, oltre ai dati finanziari, sono considerati come bonus.
In effetti, lo scopo del Consiglio di Stato è quello di aumentare "la mentalità dell’onesta e i livelli di credito dell'intera società" al fine di migliorare "la competitività complessiva del paese". È possibile che l'SCS sia in realtà un approccio più desiderabilmente trasparente alla sorveglianza in un paese che ha una lunga storia di sorveglianza dei suoi cittadini? "Come cittadino cinese, sapendo che tutto ciò che faccio online viene monitorato, preferirei essere al corrente dei dettagli di ciò che viene monitorato e utilizzare queste informazioni per imparare a rispettare le regole?" dice Rasul Majid, un blogger cinese di Shanghai che scrive di design comportamentale e psicologia del gioco. "O preferirei piuttosto vivere nell'ignoranza e nella speranza/desiderio/sogno che la privacy personale esista ancora e che i nostri governanti ci rispettino abbastanza da non trarne vantaggio?" In parole povere, Majid pensa che il sistema gli dia un po' più di controllo sui suoi dati.
Quando parlo agli occidentali del Social Credit System in Cina, le loro risposte sono appassionate e viscerali. Eppure valutiamo già ristoranti, film, libri e persino medici. Facebook, nel frattempo, è ora in grado di identificarci nelle immagini senza vedere la nostra faccia; bastano solo i vestiti, i capelli e il tipo di corporatura per essere taggati in un'immagine con un'accuratezza dell'83%.
Nel 2015, l'OCSE ha pubblicato uno studio che rivela che negli Stati Uniti ci sono almeno 24,9 dispositivi connessi ogni 100 abitanti. Tutte le società esaminano i "big data" emessi da questi dispositivi per comprendere le nostre vite e i nostri desideri e per prevedere le nostre azioni in modi che non potremmo nemmeno prevedere noi stessi.
I governi di tutto il mondo sono già coinvolti nel monitoraggio e nella valutazione. Negli Stati Uniti, la National Security Agency (NSA) non è l'unico occhio digitale ufficiale che segue i movimenti dei suoi cittadini. Nel 2015, la US Transportation Security Administration ha proposto l'idea di espandere i controlli di background PreCheck per includere tutti i post dei social media, i dati sulla posizione e la cronologia degli acquisti. L'idea è stata scartata dopo pesanti critiche, ma ciò non significa che sia accantonata. Viviamo già in un mondo di algoritmi predittivi che determinano se siamo una minaccia, un rischio, buoni cittadini e anche se siamo affidabili. Ci stiamo avvicinando al sistema cinese - l'espansione del punteggio del credito in punti vita - anche se non sappiamo di esserlo.
Quindi stiamo andando verso un futuro in cui saremo tutti marchiati online e i nostri dati archiviati? È sicuramente così. Escludendo una sorta di rivolta dei cittadini di massa per riappropriarsi della privacy, stiamo entrando in un'età in cui le azioni di un individuo saranno giudicate secondo standard che non possono essere controllati e dove un giudizio non può essere cancellato. Le conseguenze non sono solo preoccupanti; sono permanenti. Possiamo dire addio al diritto di cancellarsi o di essere dimenticati, di essere giovani e ribelli.
Anche se potrebbe essere troppo tardi per fermare questa nuova ondata, abbiamo ancora spazi di manovra e diritti che possiamo esercitare. Per prima cosa, dobbiamo essere in grado di valutare i valutatori. Nel suo libro The Inevitable, Kevin Kelly descrive un futuro in cui gli osservatori e gli spettatori si valutano vicendevolmente in modo trasparente. "La questione principale ora è se questa sorveglianza sia un segreto panoptico a senso unico o una reciproca e trasparente 'sorveglianza' che coinvolga gli osservatori", scrive.
La nostra fiducia dovrebbe iniziare dagli individui all'interno del governo (o chiunque controlli il sistema). Abbiamo bisogno di meccanismi affidabili per garantire che le valutazioni e i dati siano utilizzati in modo responsabile e con il nostro permesso. Per avere fiducia nel sistema, dobbiamo ridurre le incognite. Ciò significa adottare misure per ridurre l'opacità degli algoritmi. L'argomento contro le divulgazioni obbligatorie è che se si sa cosa succede dietro le quinte, il sistema potrebbe essere manomesso o hackerato. Ma se gli umani vengono ridotti a una valutazione che potrebbe avere un impatto significativo sulle loro vite, ci deve essere trasparenza nel modo in cui viene elaborato il punteggio.
In Cina alcuni cittadini, come i funzionari governativi, saranno probabilmente considerati al di sopra del sistema. Quale sarà la reazione del pubblico se le loro violazioni non influenzano il loro punteggio? Potremmo vedere un Panama Papers 3.0 per frode di reputazione.
È ancora troppo presto per sapere come si svilupperà una cultura di monitoraggio e valutazione permanente. Cosa accadrà quando questi sistemi, che tracciano la storia sociale, morale e finanziaria di un'intera popolazione, entreranno in vigore? Quanto ancora la privacy e la libertà di parola (a lungo assediata in Cina) saranno erose? Chi deciderà in che direzione debba andare il sistema? Queste sono domande che tutti dobbiamo prendere in considerazione, e presto. Oggi tocca alla Cina, domani magari più vicino a casa nostra. Le vere domande sul futuro della fiducia non sono tecnologiche o economiche; sono etiche.
Se si fa attenzione, la fiducia distribuita potrebbe diventare diffamazione in rete. La vita diventerà un concorso di popolarità senza fine, tutti in competizione con tutti per un punteggio più alto che solo pochi riescono a raggiungere.
Questo è un estratto da 'Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart' (Penguin Portfolio) di Rachel Botsman, pubblicato il 4 ottobre. Da quando è stato scritto questo pezzo, The People's Bank of China ha rinnovato le licenze alle otto società che conducevano studi pilota di credito sociale. I piani del governo per il lancio del Social Credit System nel 2020 rimangono invariati
Aggiornamento del 28.11.17: È stato apportato un emendamento per effettuare un confronto tra il sistema di credito sociale del governo cinese e i metodi di sorveglianza del partito comunista.
Di Rachel Botsman, 21 ottobre 2017
Il 14 giugno 2014 il Consiglio di Stato della Cina ha pubblicato un inquietante documento intitolato "Linee guida per la costruzione di un sistema di affidabilità sociale". Come consuetudine per i documenti politici cinesi, si tratta di un testo lungo e piuttosto arido, ma che contiene un'idea radicale. E se esistesse una parametro di affidabilità nazionale per classificare i cittadini?
Immaginiamo un mondo in cui la maggior parte delle attività quotidiane sono costantemente monitorate e valutate: gli acquisti nei negozi e online; la nostra posizione in qualsiasi momento; chi sono i nostri amici e come interagiamo con loro; le ore passate a guardare video o giocare ai videogiochi; le fatture e tasse pagate (o no). Non è difficile da immaginare, perché in buona parte parte ciò avviene già, grazie a tutti quei colossi che raccolgono dati come Google, Facebook e Instagram o ad app di monitoraggio della salute come Fitbit. Ma ora immaginiamo un sistema in cui tutti questi comportamenti sono valutati come positivi o negativi e riassunti in un unico numero, secondo regole stabilite dal governo. Ciò creerebbe un punteggio personale del cittadino per valutarne l’affidabilità. Tale punteggio sarebbe inoltre pubblicamente raffrontato con quello dell'intera popolazione e usato per valutare l’idoneità ad ottenere un mutuo o un lavoro, la scuola dei figli - o anche solo le chance di essere considerati desiderabili dall’altro sesso.
Una visione futuristica da Grande Fratello fuori da ogni controllo? No, è già in atto in Cina, dove il governo sta sviluppando il Social Credit System (SCS) per valutare l'affidabilità dei suoi 1,3 miliardi di cittadini. Il governo cinese sta promuovendo il sistema come un modo desiderabile per misurare e migliorare la "fiducia" a livello nazionale e per costruire una cultura di "sincerità". Come afferma il documento, "Forgerà un ambiente di opinione pubblica dove mantenere la fiducia è onorevole. Rafforzerà la sincerità negli affari del governo, la sincerità commerciale, la sincerità sociale e la costruzione della credibilità giudiziaria".
Altri sono meno ottimisti riguardo al suo scopo più ampio. "È molto ambizioso sia come profondità che come portata, compreso il controllo del comportamento individuale e dei libri che si leggono. Una sorta di monitoraggio dei consumatori di Amazon in veste politica orwelliana ", così definisce il sistema di credito sociale Johan Lagerkvist, esperto di internet cinese presso l'Istituto svedese per gli affari internazionali. Rogier Creemers, un ricercatore specializzato in diritto e governance cinese presso l'Istituto Van Vollenhoven dell'Università di Leida, che ha pubblicato una traduzione completa del piano, lo ha paragonato a "recensioni di Yelp con uno Stato-bambinaia che sorveglia da dietro le spalle".
Per ora, tecnicamente, la partecipazione al Citizen Scores in Cina è volontaria. Ma entro il 2020 sarà obbligatoria. Il comportamento di ogni singolo cittadino e persona giuridica in Cina (sono incluse anche società o altri enti) sarà valutato e classificato, con o senza il loro consenso.
Prima di implementarlo a livello nazionale nel 2020, il governo cinese sta adottando un approccio watch-and-learn. In questo matrimonio tra sorveglianza comunista ed efficientismo capitalista, il governo ha concesso ad otto compagnie private la licenza di elaborare sistemi e algoritmi per i punteggi di credito sociale. Prevedibilmente, attualmente sono i giganti di dati a gestire due dei progetti principali.
Il primo è China Rapid Finance, partner del colosso social network Tencent e sviluppatore dell'applicazione di messaggistica WeChat con oltre 850 milioni di utenti attivi. L'altro, Sesame Credit, è gestito da Ant Financial Services Group (AFSG), una società affiliata ad Alibaba. Ant Financial vende prodotti assicurativi e offre prestiti a piccole e medie imprese. Tuttavia, la vera star di Ant è AliPay, il suo ramo che si occupa di di pagamenti e che le persone usano non solo per comprare cose online, ma anche per pagare ristoranti, taxi, tasse scolastiche, biglietti per il cinema e anche per trasferire denaro.
Sesame Credit ha inoltre collaborato con altre piattaforme generatrici di dati, come Didi Chuxing, la società di corse in taxi su richiesta che era il principale concorrente di Uber in Cina prima di acquisire la concessionaria cinese della compagnia americana nel 2016, e Baihe, il più grande servizio online per cuori solitari del paese . Non è difficile vedere come tutto ciò si aggiunga alla gigantesca mole di dati cui Sesame Credit può attingere per valutare come le persone si comportano e valutarle di conseguenza.
Ma come vengono valutate le persone? Sesame Credit classifica gli individui con un punteggio compreso tra 350 e 950 punti. Alibaba non divulga il "complesso algoritmo" che usa per calcolare il numero ma rivela i cinque fattori presi in considerazione. Il primo è la solvibilità. Ad esempio, il cittadino paga la bolletta elettrica o telefonica in tempo? Secondariamente, la capacità di adempimento, definita nelle sue linee guida come "la capacità di un utente di adempiere ai propri obblighi contrattuali". Il terzo fattore sono le caratteristiche personali, la verifica delle informazioni personali come il numero di cellulare e l'indirizzo. Ma la quarta categoria, il comportamento e le preferenze, è dove la storia diventa interessante.
In base a questo sistema, una cosa innocua come le abitudini di acquisto di una persona ne diventa una misura del carattere. Alibaba ammette di classificare le persone in base al tipo di prodotti acquistati. "Chi gioca a videogiochi per dieci ore al giorno, ad esempio, è considerato una persona inattiva", dice Li Yingyun, direttore tecnologico di Sesame. "Chi compra spesso pannolini è considerato un probabile genitore, che a conti fatti ha maggiori probabilità di avere un senso di responsabilità". Quindi il sistema non solo indaga sul comportamento, ma lo modella. "Allontana" i cittadini da acquisti e comportamenti sgraditi al governo.
Anche gli amici contano. La quinta categoria sono infatti le relazioni interpersonali. Cosa rivela la scelta di amici online e le interazioni sulla persona che viene valutata? Condividere ciò che il Sesame Credit definisce "energia positiva" online, messaggi a favore del governo o su come vada bene l'economia del Paese farà aumentare il punteggio.
Alibaba ribadisce che, attualmente, qualsiasi cosa negativa pubblicata sui social media non influenza i punteggi (ma non si sa se questo è vero o meno perché l'algoritmo è segreto). Ma si può comprendere come ciò potrebbe accadere quando il sistema governativo di valutazione dei cittadini sarà ufficialmente implementato nel 2020. Anche se al momento sembra che nessuna delle otto società private coinvolte nel progetto pilota in corso sarà alla fine responsabile della gestione del sistema definitivo, è difficile credere che il governo non tenti di estrarre la quantità massima di dati per il suo SCS, fin dall’esperimento pilota. Se ciò accadesse e diventasse la norma con il SCS del governo, le piattaforme private agirebbero essenzialmente come agenzie di spionaggio per il governo. Potrebbero anche non avere scelta.
Pubblicare opinioni politiche o collegamenti dissenzienti citando Piazza Tiananmen non è mai stato saggio in Cina, ma ora potrebbe danneggiare direttamente il rating di un cittadino. Ma ecco il vero pezzo forte: il punteggio di una persona sarà anche influenzato da quello che dicono e fanno i loro amici online, al di là degli effettivi contatti con loro. Se qualcuno con cui si è connessi pubblica online un commento negativo, il punteggio di entrambi si abbasserà.
Ma allora, perché milioni di persone hanno già aderito a ciò che equivale a un periodo di prova per un sistema di sorveglianza del governo approvato pubblicamente? Ci possono essere motivi più oscuri, non dichiarati - paura di rappresaglie, per esempio, per coloro che non alzano la mano - ma c'è anche l’effetto-esca, sotto forma di ricompense e "privilegi speciali" per quei cittadini che si dimostrano essere "degni di fiducia" su Sesame Credit.
Se il punteggio raggiunge i 600 punti, si può richiedere un prestito Just Spend fino a 5.000 yuan (circa £ 565) da utilizzare per acquisti online, ovviamente su un sito Alibaba. Raggiungendo i 650 punti, si può noleggiare un'auto senza lasciare un deposito. Si ha anche diritto a un check-in più veloce negli hotel e al check-in VIP all'aeroporto internazionale di Pechino. Chi accumula più di 666 punti può ottenere un prestito in contanti fino a 50.000 yuan (£ 5.700), ovviamente da Ant Financial Services. Oltre i 700 punti si può fare domanda per viaggiare a Singapore senza documenti giustificativi come una lettera del datore di lavoro. E una volta accumulati 750 punti, si ottiene il rilascio veloce dell’ambìto visto Schengen paneuropeo. "Penso che il sistema possa essere descritto al meglio come una specie di figlio bastardo di un programma fedeltà", afferma Creemers.
I punteggi più alti sono già diventati uno status symbol, con quasi 100.000 persone che si vantano dei loro punteggi su Weibo (l'equivalente cinese di Twitter) pochi mesi dopo il lancio. Il punteggio di un cittadino può anche influire sulle probabilità essere considerati buoni partiti, o di trovare un partner da sposare, perché più alto è il loro punteggio Sesame, meglio piazzato è il loro profilo sul sito matrimoniale Baihe.
Sesame Credit offre già suggerimenti per aiutare le persone a migliorare il proprio ranking, incluso l'avvertimento sui rischi di stringere amicizia con qualcuno che ha un punteggio basso. Ciò potrebbe portare all'aumento dei consulenti per i punteggi, che condivideranno consigli su come guadagnare punti, o consulenti di reputazione sociale disposti a offrire consigli specialistici su come migliorare strategicamente una classifica o uscire dalla lista nera.
In effetti, il sistema di credito sociale del governo è fondamentalmente una versione Big Data dei metodi di sorveglianza del Partito Comunista; l'inquietante dang'an. Il regime mantiene da sempre dossier su ogni individuo, dove vengono registrate tutte le trasgressioni politiche e personali. Il dang'an di un cittadino li segue per tutta la vita, dalle scuole al lavoro. Le persone comuni possono fornire informazioni su amici e persino familiari, sollevando sospetti e abbassando la fiducia sociale in Cina. La stessa cosa succederà con i dossier digitali. Tutti avranno un incentivo a dire ai loro amici e familiari: "Non pubblicare questo. Non voglio che tu danneggi il tuo punteggio, ma soprattutto non voglio che danneggi il mio."
Assisteremo sicuramente anche alla nascita di mercati neri della reputazione, che vendono espedienti sottobanco per migliorare l'affidabilità. Così come possono essere acquistati i Mi piace di Facebook e i follower di Twitter, le persone pagheranno per manipolare il loro punteggio. Che dire poi della sicurezza del sistema? Gli hacker (alcuni persino al servizio dello stato) potrebbero modificare o rubare le informazioni archiviate digitalmente.
Il nuovo sistema riflette un astuto cambio di paradigma. Come si può intuire, invece di cercare di rafforzare la stabilità o la conformità col bastone e una buona dose di paura dall'alto verso il basso, il governo cerca di trasformare l'obbedienza in un gioco. È un metodo di controllo sociale mascherato da un sistema di punti-ricompensa. È obbedienza gamificata.
In un quartiere alla moda nel centro di Pechino, nell'ottobre 2015 la BBC fece un servizio in cui chiedeva alla gente un parere sui rating di Sesame. La maggior parte parlava dei lati positivi. E dopo tutto, chi potrebbe criticare pubblicamente il sistema? Il punteggio potrebbe risentirne. È allarmante che pochissime persone abbiano capito fino a che punto un cattivo punteggio potrebbe danneggiarli in futuro. Ancora più preoccupante è il numero di persone che non avevano idea di essere sotto esame.
Al momento Sesame Credit non penalizza direttamente le persone per la loro "inaffidabilità" - è più efficace far abboccare le persone con gli zuccherini per un buon comportamento. Tuttavia Hu Tao, presidente di Sesame Credit, avverte che il sistema è progettato in modo che "le persone non affidabili non possano noleggiare un'auto, non possano prendere in prestito denaro o addirittura non possano trovare un lavoro". Ha persino rivelato che Sesame Credit ha contattato l'Ufficio Educazione cinese per condividere un elenco degli studenti che hanno copiato agli esami nazionali, al fine di far loro pagare in futuro la loro disonestà.
Le sanzioni cambieranno radicalmente quando il sistema governativo diventerà obbligatorio nel 2020. Infatti, il 25 settembre 2016, l'Ufficio generale del Consiglio di Stato ha aggiornato la sua politica intitolata "Meccanismi di allarme e sanzioni per le persone soggette a misure esecutive per violazioni di fiducia". Il principio fondamentale è semplice: "Se la fiducia è violata in un aspetto, le restrizioni sono imposte ovunque", afferma il documento politico.
Ad esempio, le persone con un basso rating avranno una velocità più bassa di internet; accesso limitato a ristoranti, locali notturni o campi da golf; e la rimozione del diritto di viaggiare liberamente all'estero con "controlli restrittivi sui consumi all'interno delle aree di vacanza o di viaggio". I punteggi influenzeranno le domande di noleggio di un individuo, la sua capacità di ottenere un'assicurazione o un prestito e anche benefici di sicurezza sociale. I cittadini con punteggi bassi non saranno assunti da determinati datori di lavoro e sarà loro impedito di ottenere alcuni posti di lavoro, incluso il servizio civile, il giornalismo e i campi legali, dove ovviamente si deve essere considerati degni di fiducia. Inoltre i cittadini di basso profilo saranno soggetti a restrizioni quando iscrivono se stessi o i loro figli in scuole private costose. Per quanto inverosimile, questa lista di sanzioni è autentica. È la realtà che i cittadini cinesi dovranno affrontare. Come afferma il documento governativo, il sistema di credito sociale "permetterà agli affidabili di muoversi liberamente ovunque sotto il cielo rendendo difficile per i discreditati fare un singolo passo".
Secondo Luciano Floridi, professore di filosofia ed etica dell'informazione all'Università di Oxford e direttore della ricerca presso l'Oxford Internet Institute, tre sono stati i "cambiamenti decentranti" critici che hanno alterato il nostro punto di vista sull'auto-comprensione: Il modello di Copernico della Terra in orbita attorno al Sole; la teoria di Darwin sulla selezione naturale; e l'affermazione di Freud secondo cui le nostre azioni quotidiane sono controllate dalla mente inconscia.
Floridi ritiene che stiamo entrando nella quarta fase, poiché ciò che facciamo online e offline si fondono in un “onlife”. Asserisce che, poiché la nostra società diventa sempre più una infosfera, una miscela di esperienze fisiche e virtuali, stiamo acquisendo una personalità della vita - diversa da ciò che siamo solo nel "mondo reale". Lo si vede bene su Facebook, dove le persone presentano un ritratto modificato o idealizzato delle loro vite. O si pensi a Uber. I clienti non sono forse un po’ più gentili con gli autisti perché sanno di essere valutati? Ma le valutazioni Uber non sono nulla in confronto a Peeple, un'app lanciata a marzo 2016, che è come un Yelp per gli umani. Peeple consente di assegnare voti e recensioni a tutti quelli che si conoscono: il coniuge, il vicino, il capo e persino un ex. Un profilo visualizza un "Numero Peeple", che è un punteggio basato su tutti i feedback e le raccomandazioni ricevuti. Ciò che è peggio, una volta che un nome entra nel sistema Peeple, resta lì per sempre. Non se ne può uscire.
Peeple proibisce certi comportamenti ostili come menzionare le condizioni di salute private, usare un linguaggio volgare o sessista (sempre che sia possibile valutare oggettivamente che lo sia). Ma ci sono poche regole su come le persone sono classificate o sugli standard di trasparenza.
Per quanto il sistema di fiducia della Cina sia ancora volontario, ha già dato delle conseguenze. Nel febbraio 2017, la Corte Suprema del Popolo del paese ha annunciato che a 6,15 milioni dei suoi cittadini era stato vietato di prendere un aereo negli ultimi quattro anni per infrazioni sociali. Il divieto viene indicato come un primo passo verso la lista nera della SCS. "Abbiamo firmato un memorandum... [con oltre] 44 dipartimenti governativi al fine di limitare le persone" screditate "su più livelli", afferma Meng Xiang, capo del dipartimento esecutivo della Corte Suprema. Un altro 1,65 milioni di persone nella lista nera non possono prendere treni.
Dove questi sistemi realmente entrano in un territorio da incubo è il fatto che gli algoritmi di fiducia usati sono ingiustamente riduttivi. Non tengono conto del contesto. Ad esempio, una persona potrebbe mancare il pagamento di una fattura o una multa perché si trova in ospedale; un altro potrebbe semplicemente essere uno scroccone. E qui sta la sfida che tutti noi dobbiamo affrontare nel mondo digitale, e non solo i cinesi. Se gli algoritmi per controllare la nostra vita sono qui per restare, dobbiamo capire come possano tener conto delle sfumature, le incoerenze e le contraddizioni insite negli esseri umani e come possano riflettere la vita reale.
Si potrebbe vedere il cosiddetto piano di fiducia della Cina come un misto tra 1984 di Orwell e i cani di Pavlov. Comportati da buon cittadino, raccogli il premio e fai finta di divertirti. Vale la pena ricordare, tuttavia, che i sistemi di punteggio personali sono già presenti in Occidente da decenni.
Più di 70 anni fa, due uomini chiamati Bill Fair e Earl Isaac inventarono i punteggi di affidabilità creditizia. Oggi, le aziende utilizzano i punteggi FICO per determinare molte decisioni finanziarie, tra cui il tasso di interesse sui mutui o l’eleggibilità a ricevere un prestito.
La maggior parte dei cinesi non ha mai avuto punteggi di credito e quindi non può ottenere crediti. "Molte persone non possiedono case, auto o carte di credito in Cina, quindi quel tipo di informazioni non è disponibile per la misurazione", spiega Wen Quan, un influente blogger che scrive di tecnologia e finanza. "La banca centrale ha i dati finanziari di 800 milioni di persone, ma solo 320 milioni hanno una storia di credito tradizionale". Secondo il Ministero del commercio cinese, la perdita economica annuale causata dalla mancanza di informazioni sul credito è superiore a 600 miliardi di yuan (68 miliardi di sterline).
La mancanza di un sistema di credito nazionale da parte della Cina è il motivo per cui il governo è fermamente convinto che i punteggi dei cittadini sono ormai urgenti e assolutamente necessari per fissare quello che definiscono un "deficit di fiducia". In un mercato scarsamente regolamentato, la vendita di prodotti contraffatti e non conformi è un problema enorme. Secondo l'Organizzazione per la cooperazione e lo sviluppo economico (OCSE), il 63 per cento di tutti i prodotti contraffatti, dagli orologi alle borse agli alimenti per l'infanzia, proviene dalla Cina. "Il livello di micro corruzione è enorme", afferma Creemers. "Quindi, se questo particolare schema si traduce in una supervisione e una responsabilità più efficaci, sarà probabilmente accolto con favore".
Il governo sostiene inoltre che il sistema è un modo per far rientrare quelle persone tagliate fuori dai tradizionali sistemi di credito, come studenti e famiglie a basso reddito. Il professor Wang Shuqin dell'Ufficio di Filosofia e Scienze Sociali della Capital Normal University in Cina ha recentemente vinto la gara per aiutare il governo a sviluppare il sistema che lui definisce "Sistema sociale cinese della fedeltà". Senza un tale meccanismo, fare affari in Cina è rischioso, sottolinea, poiché circa la metà dei contratti firmati non viene mantenuta. "Data la velocità dell'economia digitale, è fondamentale che le persone possano verificare rapidamente l’affidabilità creditizia dei partner d’affari", afferma. "Il comportamento della maggioranza è determinato dal loro mondo di pensare. Una persona che creda nei valori fondamentali socialisti si comporta in modo più decente". Gli "standard morali" che il sistema valuta, oltre ai dati finanziari, sono considerati come bonus.
In effetti, lo scopo del Consiglio di Stato è quello di aumentare "la mentalità dell’onesta e i livelli di credito dell'intera società" al fine di migliorare "la competitività complessiva del paese". È possibile che l'SCS sia in realtà un approccio più desiderabilmente trasparente alla sorveglianza in un paese che ha una lunga storia di sorveglianza dei suoi cittadini? "Come cittadino cinese, sapendo che tutto ciò che faccio online viene monitorato, preferirei essere al corrente dei dettagli di ciò che viene monitorato e utilizzare queste informazioni per imparare a rispettare le regole?" dice Rasul Majid, un blogger cinese di Shanghai che scrive di design comportamentale e psicologia del gioco. "O preferirei piuttosto vivere nell'ignoranza e nella speranza/desiderio/sogno che la privacy personale esista ancora e che i nostri governanti ci rispettino abbastanza da non trarne vantaggio?" In parole povere, Majid pensa che il sistema gli dia un po' più di controllo sui suoi dati.
Quando parlo agli occidentali del Social Credit System in Cina, le loro risposte sono appassionate e viscerali. Eppure valutiamo già ristoranti, film, libri e persino medici. Facebook, nel frattempo, è ora in grado di identificarci nelle immagini senza vedere la nostra faccia; bastano solo i vestiti, i capelli e il tipo di corporatura per essere taggati in un'immagine con un'accuratezza dell'83%.
Nel 2015, l'OCSE ha pubblicato uno studio che rivela che negli Stati Uniti ci sono almeno 24,9 dispositivi connessi ogni 100 abitanti. Tutte le società esaminano i "big data" emessi da questi dispositivi per comprendere le nostre vite e i nostri desideri e per prevedere le nostre azioni in modi che non potremmo nemmeno prevedere noi stessi.
I governi di tutto il mondo sono già coinvolti nel monitoraggio e nella valutazione. Negli Stati Uniti, la National Security Agency (NSA) non è l'unico occhio digitale ufficiale che segue i movimenti dei suoi cittadini. Nel 2015, la US Transportation Security Administration ha proposto l'idea di espandere i controlli di background PreCheck per includere tutti i post dei social media, i dati sulla posizione e la cronologia degli acquisti. L'idea è stata scartata dopo pesanti critiche, ma ciò non significa che sia accantonata. Viviamo già in un mondo di algoritmi predittivi che determinano se siamo una minaccia, un rischio, buoni cittadini e anche se siamo affidabili. Ci stiamo avvicinando al sistema cinese - l'espansione del punteggio del credito in punti vita - anche se non sappiamo di esserlo.
Quindi stiamo andando verso un futuro in cui saremo tutti marchiati online e i nostri dati archiviati? È sicuramente così. Escludendo una sorta di rivolta dei cittadini di massa per riappropriarsi della privacy, stiamo entrando in un'età in cui le azioni di un individuo saranno giudicate secondo standard che non possono essere controllati e dove un giudizio non può essere cancellato. Le conseguenze non sono solo preoccupanti; sono permanenti. Possiamo dire addio al diritto di cancellarsi o di essere dimenticati, di essere giovani e ribelli.
Anche se potrebbe essere troppo tardi per fermare questa nuova ondata, abbiamo ancora spazi di manovra e diritti che possiamo esercitare. Per prima cosa, dobbiamo essere in grado di valutare i valutatori. Nel suo libro The Inevitable, Kevin Kelly descrive un futuro in cui gli osservatori e gli spettatori si valutano vicendevolmente in modo trasparente. "La questione principale ora è se questa sorveglianza sia un segreto panoptico a senso unico o una reciproca e trasparente 'sorveglianza' che coinvolga gli osservatori", scrive.
La nostra fiducia dovrebbe iniziare dagli individui all'interno del governo (o chiunque controlli il sistema). Abbiamo bisogno di meccanismi affidabili per garantire che le valutazioni e i dati siano utilizzati in modo responsabile e con il nostro permesso. Per avere fiducia nel sistema, dobbiamo ridurre le incognite. Ciò significa adottare misure per ridurre l'opacità degli algoritmi. L'argomento contro le divulgazioni obbligatorie è che se si sa cosa succede dietro le quinte, il sistema potrebbe essere manomesso o hackerato. Ma se gli umani vengono ridotti a una valutazione che potrebbe avere un impatto significativo sulle loro vite, ci deve essere trasparenza nel modo in cui viene elaborato il punteggio.
In Cina alcuni cittadini, come i funzionari governativi, saranno probabilmente considerati al di sopra del sistema. Quale sarà la reazione del pubblico se le loro violazioni non influenzano il loro punteggio? Potremmo vedere un Panama Papers 3.0 per frode di reputazione.
È ancora troppo presto per sapere come si svilupperà una cultura di monitoraggio e valutazione permanente. Cosa accadrà quando questi sistemi, che tracciano la storia sociale, morale e finanziaria di un'intera popolazione, entreranno in vigore? Quanto ancora la privacy e la libertà di parola (a lungo assediata in Cina) saranno erose? Chi deciderà in che direzione debba andare il sistema? Queste sono domande che tutti dobbiamo prendere in considerazione, e presto. Oggi tocca alla Cina, domani magari più vicino a casa nostra. Le vere domande sul futuro della fiducia non sono tecnologiche o economiche; sono etiche.
Se si fa attenzione, la fiducia distribuita potrebbe diventare diffamazione in rete. La vita diventerà un concorso di popolarità senza fine, tutti in competizione con tutti per un punteggio più alto che solo pochi riescono a raggiungere.
Questo è un estratto da 'Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart' (Penguin Portfolio) di Rachel Botsman, pubblicato il 4 ottobre. Da quando è stato scritto questo pezzo, The People's Bank of China ha rinnovato le licenze alle otto società che conducevano studi pilota di credito sociale. I piani del governo per il lancio del Social Credit System nel 2020 rimangono invariati
Aggiornamento del 28.11.17: È stato apportato un emendamento per effettuare un confronto tra il sistema di credito sociale del governo cinese e i metodi di sorveglianza del partito comunista.
Iscriviti a:
Post (Atom)