La notizia circola ormai dal 2014, ma si è riproposta agli osservatori dopo che George Soros ne ha fatto il centro di un suo discorso al World Economic Forum di Davos, la settimana scorsa. “Voglio portare la vostra attenzione – dice Soros durante una cena privata – sul pericolo mortale che le società aperte si trovano a fronteggiare a causa degli strumenti di controllo che il machine learning e l'intelligenza artificiale possono mettere nelle mani dei regimi repressivi. Il social credit system non è ancora pienamente operativo ma è già chiaro verso cosa ci stiamo dirigendo. Il destino individuale verrà subordinato agli interessi dello Stato-partito in modi che la storia non ha ancora conosciuto”. Queste le allarmate parole di Soros a proposito del “social credit system”, il meccanismo che il Governo cinese sta sperimentando da tempo per valutare, attraverso un complicato sistema di feedback e ratings, l'”affidabilità” dei propri cittadini.

Il meccanismo è semplice e si fonda su un'idea vecchia quanto il mondo, quella di “reputazione”. Dalle società primordiali, alle prime esperienze di interazioni economiche a lunga distanza, fino alle moderne piattaforme di e-commerce, il capitale reputazionale è ciò che ha reso possibile l'esplosione degli scambi commerciali minimizzandone il rischio e moltiplicando le opportunità di guadagno. La stessa logica che ci fa ritornare dal meccanico o dal parrucchiere “di fiducia”, favorisce i miliardi di transazioni che avvengono su Amazon o Aliexpress. Affinché quel meccanico diventi il nostro meccanico “di fiducia” dobbiamo giocare con lui un gioco ripetuto, giorno dopo giorno valutiamo la sua affidabilità con il sottointeso condiviso che alla prima fregatura il rapporto si interromperà. In questo modo il meccanico, nonostante l'asimmetria informativa che lo mette in netto vantaggio sul cliente, dovrà scegliere tra un forte, ma singolo, guadagno, o minori profitti, ma ripetuti nel tempo. La teoria dei giochi, il folk theorem in particolare, mostra che sotto certe condizioni il meccanico avrà un forte incentivo a investire in reputazione. A rinunciare, cioè, al guadagno immediato e preferirne uno maggiore, ma diluito nel tempo.

Il commercio elettronico si basa sulla stessa logica, con la differenza che l'informazione sulla reputazione del venditore non è più esclusivamente confinata ad una relazione personale tra le due parti, ma, grazie alla rete, questa ora è diventata pubblica. A costo praticamente nullo, ogni potenziale compratore può conoscere la storia passata e l'affidabilità di ogni potenziale venditore; è questo l'elemento che ha consentito una crescita esponenziale dell'incentivo reputazionale.

I guai, però, nascono quando la stessa logica viene applicata estensivamente e da un regime non pienamente democratico, anche al di fuori della sfera degli scambi economici. La nostra digital footprint, le immagini delle telecamere di sicurezza, le valutazioni di conoscenti e vicini di casa, i commenti sui social, le trasmissioni che guardiamo alla TV, quanto tempo passiamo coi videogame, le cose che compriamo, etc., tutto potrà essere processato istantaneamente da sofisticati algoritmi per definire il tuo livello di “affidabilità”, il tuo punteggio personale. Questo è ciò che sta alla base del “credit score system”. Il governo cinese conta di utilizzare questo punteggio per garantire o escludere i cittadini e le imprese dall'accesso a diversi servizi. Finire sulla lista nera significa, per esempio, non poter viaggiare all'estero, non poter soggiornare in certi alberghi o non poter mandare i propri figli in determinate scuole, avere un collegamento a internet rallentato e perfino penalizzazioni nei siti di dating online.

Qualche anno fa, durante un viaggio a Cuba per una serie di conferenze, i miei ospiti mi misero in guardia dai possibili infiltrati tra gli uditori. Era comune che informatori del partito si introducessero nelle aule universitarie per valutare l'accettabilità del messaggio veicolato dai relatori. Così come era comune che in ogni vicinato ci fosse qualcuno, la cui identità era ignota ai più, incaricato di verificare i movimenti dei vicini, le loro frequentazioni, le loro abitudini. Oggi, grazie alla rete, questo occhio scrutatore è diventato potenzialmente onnisciente, e non solo a Cuba o in Cina.

Chi volesse farsi un'idea di come si potrebbe vivere in una società fondata sul “social credit system”, non dovrebbe perdersi “Nosedive”, il primo episodio della terza stagione della fortunata serie britannica “Black Mirror”. Tutta incentrata sui rapporti tra tecnologia e vita quotidiana, in quell'episodio gli autori mettono in scena in maniera efficace l'ambigua dualità di rapporti sociali orientati da un sistema di valutazione così pervasivo da diventare angosciante. Dove il punteggio individuale consente di ottenere sconti sull'affitto o di ambire ai posti di lavoro migliori, ma anche, se al di sotto di una certa soglia, di diventare un pària sociale, allontanato ed evitato da tutti.

Quanto assomiglia il progetto cinese alla distopia di “Nosedive”? Questo ancora non è chiaro perché non si conoscono tutti i dettagli del progetto che diventerà pienamente operativo solo nel 2020. Certo che la somiglianza, però, è inquietante, considerando soprattutto il fatto che il sistema cinese non sarebbe decentralizzato, ma interamente nelle mani del potere politico.
Un incubo per chi sogna società sempre più aperte e liberali. Ma un incubo che forse ci può aiutare ad aprire gli occhi e a riconoscere quei germi di illiberalità e di distopismo presenti già oggi anche nelle nostre società occidentali.

I nostri registri dei protesti non si fondano sullo stesso principio? Non è forse un certo punteggio, l'entità del conto in banca, questa volta, che ci da accesso o ci preclude, nei fatti, certi servizi: scuole di qualità, servizi sanitari efficienti, quartieri sicuri, relazioni sociali, etc. E come dobbiamo interpretare le limitazioni poste nell'uso del reddito di cittadinanza rispetto alle “spese immorali”, come le definisce il ministro Di Maio, o ai controlli della finanza paventati dalla vice-ministro Castelli nei confronti di chi spenderà il reddito da Unieuro? Qual è il valore e la legittimità, quali sono le conseguenze profonde di un simile uso dei big data?

In Cina il sistema di valutazione penalizza le spese “frivole”, da noi quelle “immorali”. Lo Stato paternalista pare essere sempre più vivo.
Da una parte il punteggio individuale, dall'altra il conto in banca: le crescenti diseguaglianze stanno portando a società sempre più stratificate e differenziate non solo economicamente, ma anche per quanto riguarda diritti e opportunità. L'aver idolatrato per decenni l'idea di “libertà negativa”, per dirla con Isaiah Berlin, cioè di libertà dalla coercizione e non aver promosso, con pari impegno e convinzione anche la “libertà positiva”, cioè la libertà di poter vivere una vita degna, ha fatto esplodere nelle nostre società del benessere, oceani di malessere, di opportunità negate da una falsa e mistificatrice meritocrazia, che tutto premia, tranne il merito.

Che la preoccupazione di Soros per la deriva cinese rappresenti allora, prima di tutto, un monito per noi, un'occasione per riflettere sulle implicazioni del nostro modello sociale ed economico, sulla sua tenuta, sulla sua reale progressività. Se, come suggeriva il filosofo della politica John Rawls, la qualità di una democrazia si misura dalle condizioni di chi sta peggio, davvero possiamo dirci soddisfatti del nostro modello democratico? Questo, forse, ci aiuterebbe anche ad interpretare in maniera più consapevole e profonda e a guardare sotto una luce differente il panorama (post)ideologico e i movimenti che agitano la politica occidentale. Per evitare il “nosedive”, la caduta libera, che pure sembra avvicinarsi velocemente.

© Riproduzione riservata