Lacie piace a tutti (o quasi). È una giovane donna, è ordinata, socievole e sorridente. Il suo rating è 4,2 stelle. Non abbastanza per vivere nel quartiere che tutti sognano, ottenere sconti e lussi ed entrare nella cerchia dei Prime Influencer. Lacie è la protagonista di Nosedive, il primo episodio della terza stagione di Black Mirror. Quello rappresentato è un futuro distopico, l’incubo color pastello di una economia della reputazione governata da influencer, consulenti di immagine e algoritmi. È fiction ma i prodromi ci sono già tutti. Dall’app per smartphone Peeple che permette di recensire le persone come se fossero appartamenti. A Klout che fornisce un punteggio da 0 a 100 in base alle interazioni sui vari social network. Fughe in avanti in Nigeria: Social Lender è un servizio sviluppato da BinCom per collegare la social reputation alla possibilità di ottenere un prestito. Ma anche in altre zone dell’Africa stanno prendendo piede servizi di questo tipo.
Due libri: il primo “The Reputation Economy: How to Optimize Your Digital Footprint in a World Where Your Reputation Is Your Most Valuable Asset” di Michael Fertik e David Thompson; e il secondo “The Black Box Society: The Secret Algorithms That Control Money and Information” di Frank Pasquale ci dicono qualcosa di più. E dimostrano come le aziende siano già molto avanti nell’utilizzo di strumenti per tracciare e misurare l’attività delle persone, senza che i consumatori ne siano consapevoli. Secondo gli autori, responsabli delle risorse umane e società di ricerca usano programmi software per automatizzare il processo di ricerca di informazioni sui candidati. Il processo di selezione avverrebbe con strumenti di intelligenza artificiale. Perché l’Ia? Le reti neurali ed altri sistemi, anche in combinazione tra loro, consentono di addestrare i dispositivi invece di programmarli. Grazie all'analisi di un numero enorme di casi e di dati raccolti anche dall'ambiente circostante, il sistema è in grado di elaborare, aggiornare e sviluppare le regole di comportamento futuro assumendo autonome decisioni o svolgendo azioni per massimizzare le possibilità di ottenere i risultati in un modo spesso imprevedibile perfino per gli stessi ideatori del sistema.
In questo processo gli umani entrerebbero solo nell’ultima fase, quella del colloquio. Per i candidati controllare o comprendere le regole che li hanno condotti al colloquio finale sarebbe quindi impossibile.
Come scrive bene Frank Pasquale, professore di diritto nell’università del Maryland, alcune aziende possono unire “puntini” digitali che noi lasciamo cadere più o meno consapevolmente. Quello che non sappiamo è come vengano elaborate queste informazioni, quali banche dati su di noi vengano incrociate, in che mondo funzioni l’algoritmo che disegna e giudica le nostre vite.
Nulla di nuovo, purtroppo. Quella sollevata dagli autori è una questione “antica”. E riguarda l’opacità di funzionamento delle grandi piattaforme tecnologiche. Ogni giorno consegniamo informazioni, password, numeri di carte di credito così via ad aziende sempre più influenti per le nostre vite e il cui funzionamento interno è una scatola nera.
Quella che un tempo è stata una timida richiesta di neutralità delle tecnologie oggi si traduce in una pressante esigenza di trasparenza resa ancora più urgente dalla bolla che sta inglobando l’intelligenza artificiale. Quasi 140 startup attive su queste tecnologie sono state acquisite dall’inizio del 2011. Quaranta nell’ultimo anno. Secondo Cb Insight l’anno scorso è stata investita la cifra record di 2,3 miliardi di dollari. In prima file i soliti, giganti come Google, Yahoo, Intel, Apple e Salesforce.
Solo settimana scorso Ginni Rometty, 58 anni, ceo di Ibm, ha annunciato di voler trasformare Watson in una piattaforma per le aziende. Il sistema di intelligenza artificiale che usa machine learning e sistemi di riconoscimento del linguaggio naturale divenuto famoso per aver battuto nel 2011 un concorrente umano al quiz Jeopardy diventerebbe così una fabbrica di Bot destinata a raggiungere «un miliardo di persone entro la fine del 2017». «Crediamo che questa sia l’era dell’uomo e della macchina. - ha annunciato alla T-Mobile Arena - E che l’intelligenza artificiale sia destinata ad aumentare la nostra intelligenza». Traduzione? Il destinato è segnato. Sotto forma di chatbot o di assistenti virtuali, nei sistemi di messaggistica o attraverso gli smartphone, saremo chiamati a dialogare sempre più spesso con sistemi dotati di apprendimento automatizzato e software di machine learning.
Dietro gli slogan sull’intelligenza artificiale di reale ci sarà anche la furbizia nell’accedere a maggiori informazioni su di noi. E il processo sta subendo una accelerazione fortissima. Se come sostiene il guru della Silicon Valley Peter Thiel il fine dei Big della tecnologia non è quello di competere ma di conquistare in brevissimo tempo il monopolio di una economia o un mercato nascente, allora l’Ia può rappresentare la tecnologia perfetta per accelerare l’ingresso ai Big data delle persone. In questo contesto di algoritmi nascosti in grado di «decidere il destino di persone e aziende» dove tutto è grande e poco intelligibile nasce una richiesta di trasparenza qualificata, dove la rivelazione delle informazioni è fatta rispettando gli interessi delle persone coinvolte. Messa così però sembra davvero un episodio alla Black Mirror.
© Riproduzione riservata