l film di Ridley Scott Blade Runner (1982) era basato su un romanzo del 1968 di Philip Dick, Do Androids Dream of Electric Sheep?, ovvero,Gli androidi sognano forse pecore elettriche? A ciascuna epoca la sua macchina, diremmo. Gli androidi hanno il vantaggio di avere una forma troppo umana, il che facilita l’attribuzione di pensieri ed emozioni; anche se le pecore dei loro sogni erano elettriche, pur sempre di sogni concreti si trattava. Il monologo cruciale di Blade Runner, aperto dalla frase cult «ho visto cose che voi umani non potete nemmeno immaginare» («I’ve seen things you people wouldn’t believe... All those moments will be lost in time, like tears in rain. Time to die».) ha instillato in generazioni di spettatori il sospetto che qualcosa di vero ci sia nell’idea bislacca che le macchine possano sognare, soffrire e pensare come gli esseri umani. Idea moderatamente suffragata dal comportamento bizzoso dei computer non umanoidi con cui abbiamo interagito: ci piantano in asso, ci trattano male, e in alcuni casi ci parlano – suvvia, un’anima devono pur averla. Come aveva fatto notare Wittgenstein, potremmo esser tentati di attribuire l’anima anche alle pentole, che borbottano allegramente sul fuoco.

I computer odierni sono però molto diversi da quelli che avevamo tra le mani anche solo dieci anni fa. Oggi sono dei terminali quasi-magici di un cloud composto da decine se non centinaia di migliaia di servers, raccolgono informazioni grazie a svariate antenne e generano masse smisurati di dati che sono sottoposte al vaglio incessante di algoritmi potenti e sofisticati il cui scopo è di organizzare questi dati e renderli utilizzabili. La “mente” dei computer odierni è per noi lontanissima e opaca; non più inferibile dal loro patinato comportamento superficiale, non più leggibile sul volto di un robot.

Ma che cosa sogna questa mente algoritmica, infaticabile masticatrice di dati? Dominique Cardon fa un notevole e utilissimo lavoro di chiarificazione, il cui nucleo è la classificazione dei tipi di algoritmi. Il riassunto è breve, imparatelo a memoria, come una poesia in quattro versi: «i clic degli internauti fabbricano la popolarità, le citazioni ipertestuali l’autorità, gli scambi nelle cerchie di compari la reputazione, le tracce dei comportamenti una predizione personalizzata ed efficace» (p. 90)

I grandi attori della nuova economia sono caratterizzati proprio dal tipo di algoritmo di riferimento per la loro attività. Google Analytics misura i clic; Page Rank – sempre di Google – usa i link come voti e misura l’autorità, tanto quella conferita dal venir linkati da siti autorevoli che quella guadagnata con il linkare a siti autorevoli, in un circolo di autorità che si auto-rinforza. Facebook e suoi Like generano e disfano reputazioni, e le raccomandazioni di Amazon usano le tracce lasciate non solo da voi, ma da quelli che sono simili a voi, per predire e condizionare in modo chirurgico il vostro comportamento.

Si tratta di intelligenza, di pensiero? Il progetto originario dell’intelligenza artificiale, di macchine che mimano le operazioni che caratterizzano la nostra intelligenza, si è infranto molti anni fa sul problema del contesto. Deep Blue sconfisse Kasparov, ma soltanto perché focalizzava tutto il suo immenso macchinario e svariati megawatt su un micro-universo – la scacchiera, i trentadue pezzi e le regole degli scacchi – che per quanto complesso non rappresenta che una frazione infima degli ambienti in cui opera in modo flessibile un cervello umano (consumando solo pochi watt). Il cervello di Kasparov, che pure perse la partita, sa anche capire una poesia, cogliere una sfumatura ironica, tradurre dal russo all’inglese e viceversa. Deep Blue non sa fare nulla di tutto ciò. I nuovi algoritmi scavalcano, o meglio cavalcano il contesto; i big data sono a conti fatti grandi collezioni di contesti. I traduttori automatici “intelligenti” cercavano di ricostruire la sintassi delle frasi che analizzavano, smontandole per poi rimontarle nella lingua in cui provavano a tradurre. Google ha preferito scansionare I Promessi Sposi e la loro traduzione in francese, e quando cerca di tradurre “ramo” fa tesoro del fatto che c’è un contesto in cui il ramo è il ramo di un lago e non quello di un albero. In realtà fa tesoro del lavoro (una forma di volontariato inconsapevole) di decine di migliaia di traduttori, che avendo cervelli umani sanno cogliere le sfumature contestuali. «Non si tratta più di insegnare alla macchina una grande teoria applicata a pochi dati, ma di moltiplicare le teorie piccole chiedendo a molti dati contestuali di selezionare la o le migliori. Le capacità di calcolo permettono di saggiare contemporaneamente diverse migliaia di ipotesi». (pp. 60-61)

Se gli algoritmi vivono in un mondo in cui l’informazione è una produzione sociale, i loro sogni sono politici, e si nascondono dietro schermi ideologici e propagandistici. Mentre promettono un’offerta sempre più estesa dell’informazione, ci obbligano a concentrare l’attenzione su fenomeni virali ed effimeri di qualità dubbia (il cantante coreano Psy che si ritrova con più di due miliardi di viste su Youtube). Mentre narrano una favola meritocratica in cui chiunque può emergere dal rumore di fondo dei clic, riproducono in maniera prepotente le disuguaglianze sociali e di accesso (la radio di stato francese ha una rubrica “reti sociali” che riporta in modo sproporzionato i tweet del primo ministro o del cantante famoso di turno). Mentre ci fanno sognare una condivisione della conoscenza, aumentano lo scarto tra chi sa approfondire in cerca di qualità e chi subisce passivamente l’air du temps (le condivisioni di Facebook sono soprattutto a video umoristici o di intrattenimento; su un periodo di due anni, il 41% degli utenti non aveva postato neanche un link a una fonte di informazione, e il 15% un solo link). E da ultimo (p. 102), ma non per importanza, «l’immaginario dei creatori di servizi di big data è obnubilato dalla figura dell’assistente personale, il concierge» che ti fa risparmiare tempo decidendo per te in mille situazioni della vita quotidiana: ti riempie il frigo, filtra i messaggi, sceglie la musica che potrebbe piacerti di più. Se stiamo diventando soltanto dei supervisori dell’attività degli algoritmi, «è sempre di più necessario imparare a non disimparare».

© RIPRODUZIONE RISERVATA

Dominique Cardon, À quoi rêvent les algorithmes , Seuil, Parigi,
pagg. 108, € 11,80