Autore Dominique Cardon
Titolo Che cosa sognano gli algoritmi
SottotitoloLe nostre vite al tempo dei big data
EdizioneMondadori, Milano, 2016, Scienze e filosofia , pag. 90, cop.fle., dim. 14,6x20,4x0,9 cm , Isbn 978-88-6184-513-8
Originale quoi rvent les algorithmes
EdizioneSeuil, Paris, 2015
TraduttoreChetro De Carolis
LettoreCorrado Leonardo, 2017
Classe informatica , informatica: fondamenti , informatica: sociologia , informatica: reti , media












 

| << |  <  |  >  | >> |

Indice


Presentazione, di Roberto Casati                            VII

Introduzione. Comprendere la rivoluzione dei calcoli          1

    Il mondo in cifre                                         2
    Aprire la scatola nera                                    5


1.  Quattro famiglie di calcolo digitale                     11

    Accanto al web: l'imprecisa popolarità dei clic          13
    Al disopra del web: l'autorevolezza basata sul merito    18
    All'interno del web: la fabbrica della reputazione       22
    Al disotto del web: la predizione attraverso le tracce   25

2.  La rivoluzione nei calcoli                               31

    La manipolazione della realtà                            32
    Lo straripare delle categorie                            36
    Calcolare da più vicino possibile                        38
    Correlazioni senza cause                                 41

3.  I segnali e le tracce                                    45

    I nuovi filoni di dati                                   45
    Delle macchine «statistiche»                             48
    Il segnale e la traccia                                  51
    Un comportamentismo radicale                             54
    Segnali senza tracce e tracce senza segnali              59
    La quantificazione di se stessi                          63
    Gli algoritmi sono fuorvianti?                           66
    L'«idiozia» degli algoritmi                              70

4.  La società dei calcoli                                   75

    La «tirannia del centro»                                 75
    La coordinazione virale dell'attenzione                  77
    La secessione degli eccellenti                           79
    Digital labor                                            81
    «Passare alla modalità manuale»                          85

Conclusione. La strada e il paesaggio                        89


 

 

| << |  <  |  >  | >> |

Pagina 31

2
La rivoluzione nei calcoli



La rivoluzione dei big data, più che nella maniera di calcolare, sta nell'accumulazione dei dati. Ognuna delle famiglie di calcolatori presuppone concezioni e usi diversi della statistica. L'avvento dei data analysts, armati delle loro tecniche di trattamento massiccio dei dati, ha messo in ebollizione il mondo della statistica. Tre scosse hanno spiazzato il modo in cui le nostre società rappresentano se stesse attraverso le cifre: coloro che vengono calcolati sono facilmente diventati loro stessi dei calcolatori; le categorie non riescono più a rappresentare bene individui che tendono sempre più a individualizzarsi; le correlazioni statistiche non procedono più dalla causa alla conseguenza, bensì, a partire dalle conseguenze, risalgono a una valutazione delle probabili cause.

Queste tre scosse hanno fatto vacillare la lunga tradizione statistica che si era costituita, parallelamente agli Stati, per proporre una cartografia della nazione basata su convenzioni stabili e categorie descrittive del mondo sociale. Queste ultime garantivano, da una parte, un certo grado di consistenza e di solidità attraverso la nozione di media e, d'altra parte, una leggibilità sufficiente a offrire categorie percettive comuni.

Ora, a partire dagli anni Ottanta, la società ha cominciato a «rientrare» in modo sempre meno preciso nelle categorie con le quali le istituzioni pretendono di registrarla, misurarla e agire su di essa. La crisi della rappresentazione politica asseconda segretamente l'indebolimento delle forme statistiche che davano un'ossatura al mondo sociale. La diffidenza che a volte gli individui manifestano verso politici, giornalisti, esperti o sindacalisti, ha alla sua base il rifiuto di lasciarsi rinchiudere in classificazioni definite a priori.

proprio in nome di tale rivendicazione della singolarità che si è dato avvio a un ampio processo di reinvenzione delle tecniche statistiche al fine di calcolare la società senza categorizzare gli individui. I nuovi calcoli digitali partono dalle tracce delle attività delle persone, ma non cercano di inferirne caratteristiche applicabili a fenomeni più vasti e che permettano all'intera società di rappresentarsi e comprendersi. Le categorie statistiche tradizionali non spogliano gli individui, e instaurano meccanismi di mutualizzazione dei rischi per affrontare l'incertezza dei comportamenti individuali. Oramai, assicurano i promotori dei nuovi calcoli, sarà possibile conoscere con precisione i destini individuali e rivolgersi agli individui liberandosi dalla solidarietà collettiva.

| << |  <  |  >  | >> |

Pagina 34

Le «verità statistiche» sono diventate strumentali: ciò che importa non è più il valore proprio della cifra, bensì l'evoluzione del valore misurato tra due registrazioni. «Non appena una misura diventa un obiettivo, essa cessa d'essere una buona misura», sottolinea la famosa legge di Goodhart. Ma agli indicatori è stata assegnata anche un'altra finalità: trasformare in calcolatori gli attori stessi, inserendoli in un ambiente che detti loro i mezzi per auto-misurarsi e allo stesso tempo lasci loro una certa autonomia. Mal connessi l'uno all'altro, gli indicatori in batteria non costituiscono più un sistema. La competenza dei calcolatori soppianta l'autorità professionale. Il fatto che le misure siano false non è più considerato un problema.

Quello che importa, invece, è impiantare un ciclo riflessivo che porti gli attori a sapersi osservati da un sistema metrico e a orientare le loro azioni secondo gli effetti che esse avranno sulla misura. Le misurazioni servono a fabbricare il futuro. Ammorbidiscono le nostre convinzioni sulla solidità delle cifre, allo scopo di rendere la realtà più plastica. Questa non viene più misurata dall'esterno, bensì dall'interno, tanto che il perimetro delle categorie, invece di essere l'oggetto di un sistema di misura indipendente, è una variabile prodotta dall'attività di coloro che vengono misurati: quando una politica pubblica ingiunge ai poliziotti di aumentare le cifre dei reati di adescamento passivo, le loro azioni contribuiscono a far aumentare il perimetro di una categoria che non esiste indipendentemente dalle loro azioni.

Così, diventa sempre più frequente che una misura di attività sia presa per una misura del fenomeno sul quale si esercita tale attività: il numero delle denunce di donne che vengono picchiate diventa il numero delle donne che vengono picchiate, i ricercatori più citati diventano i «migliori», i licei che hanno i migliori risultati agli esami di maturità sono le scuole migliori ecc. Un indicatore di performance, spesso unico, diventa uno strumento di lettura di un contesto ben più generale. La riflessività dei contatori non solo ha reso gli attori sempre più degli strateghi, ma ha anche reso la realtà sempre più manipolabile. In Francia, da quando il sito NosDéputés.fr rende pubblico il computo dell'attività dei parlamentari, costoro non solo sono sensibili agli effetti di tali classifiche (in particolare in quanto la stampa locale fa regolarmente il punto, dando titoli del tipo «I vostri deputati sono studiosi?»), ma modificano anche i loro comportamenti. Le prese di parola dei deputati in commissione si sono moltiplicate in modo da aumentare il tasso della loro attività.

| << |  <  |  >  | >> |

Pagina 43

A una teoria comportamentale omogenea, i calcolatori sostituiscono un mosaico costantemente rivedibile di micro-teorie contingenti che articolano pseudo-spiegazioni locali dei comportamenti probabili. Tali calcoli sono destinati a guidare i nostri comportamenti verso gli oggetti più probabili: non hanno bisogno di essere compresi e, molto spesso, neppure possono esserlo. Questa maniera invertita di fabbricare il sociale testimonia il rovesciamento della causalità operato dal calcolo statistico per far fronte all'individualizzazione delle nostre società e alla sempre maggiore indeterminazione di ciò che determina le nostre azioni. In effetti, colpisce constatare che le logiche odierne dei calcolatori cercano di re-inquadrare la società, ma, in un certo senso, alla rovescia e dal basso, partendo dai comportamenti individuali per poi inferirne le peculiarità che li rendono statisticamente probabili.

| << |  <  |  >  | >> |

Pagina 45

3
I segnali e le tracce



I promotori dei big data manifestano un ottimismo statistico a prova di bomba. Se internet ha affrancato gli individui dal filtro dei media che impediva loro di esprimersi, ormai bisognerebbe liberare i dati dai file e dai modelli che li bloccano. Non senza ingenuità, essi sostengono che una volta «liberati» i dati allo stato grezzo, basterà calcolarli perché appaiano le verità matematiche insite nel mondo sociale, che permetteranno di ridurre gli errori dei governanti, le approssimazioni della medicina o lo spreco dei mercati.

Accessibili, incrociati e offerti in pasto agli algoritmi, i dati potrebbero allora anch'essi esprimere cose che prima erano loro vietate o che restavano ignote in mancanza di sistemi di misura oggettivi. Isomma se il nostro mondo è imperfetto, è perché ci mancano i dati per correggerlo.

[...]

I dati allo stato grezzo non esistono. Ogni quantificazione è una costruzione che inserisce delle registrazioni in un dispositivo di commisurazione, e stabilisce convenzioni per interpretarle. Bisogna conoscere bene le categorie della statistica poliziesca per interpretare le registrazioni dei brogliacci dei commissariati di polizia e identificare gli effetti che i cambiamenti delle disposizioni ministeriali esercitano su tali registrazioni. Estratte dal contesto di produzione e rapportate ad altri dati, tali cifre, più che conoscenza, rischiano di creare controsensi.

Del resto, i dati parlano solo in funzione di come vengono interrogati e degli interessi di coloro che li interrogano.

[...]

Persuasi che la quantità possa sostituirsi alla qualità, gli zeloti dei big data assicurano che un mondo più misurabile diventerebbe anche più calcolabile. Se i mega-dati possono svolgere un ruolo considerevole nella trasformazione di certi settori di attività, succede anche che essi producano più noise che segnali, che vengano fuorviati, che si sbaglino o che producano effetti non desiderati. Così, bisogna entrare nel sistema di funzionamento dei calcolatori per comprendere ciò di cui essi sono o non sono capaci.

| << |  <  |  >  | >> |

Pagina 48

Delle macchine «statistiche»


Noi siamo pervasi dall'idea antropomorfica che le macchine calcolatrici siano intelligenti e che i loro ideatori siano riusciti a infondere uno spirito nei loro meccanismi. Questa concezione alimenta la nostra immaginazione e i nostri timori. Da HAL, il computer pazzo di 2001 Odissea nello spazio, fino ai «precog mutanti» di Minority Report, i quali predicono un crimine prima che sia commesso, essa è costantemente corroborata dall'immaginario della fantascienza. Tuttavia, nei laboratori di ricerca, nessuno crede davvero che gli algoritmi abbiano questo tipo di intelligenza.

Negli anni Ottanta, il programma dell'Artificial Intelligente (AI) mirava a far riprodurre il ragionamento umano agli automi, dotandoli di regole, modelli cognitivi, ontologie e sintassi che riproducevano la complessità delle forme logiche e simboliche del pensiero. Questo programma è fallito negli anni Novanta per svariate ragioni; la principale è l'incapacità degli automi «intelligenti» di interpretare l'infinita varietà delle situazioni e dei contesti. Che un computer, Deep Blue, sia riuscito, nel 1997, a battere Garry Kasparov a scacchi, ha costituito l'apoteosi e la fine delle ambizioni di questo programma di ricerca. L'intelligenza artificiale si è sfasciata nel confronto con l'infinita diversità dei contesti.

Rendere la macchina «intelligente» non serve a niente se essa non sa adattare il suo ragionamento a tutte le situazioni. Ora, la maggior parte delle situazioni della vita reale non è «codificata» come lo sono le regole di spostamento dei pezzi sulla scacchiera.

Oggi il progetto dell'intelligenza artificiale è riemerso nei progetti di ricerca in informatica. Esso è al centro delle tecno-utopie transumanistiche dei guru della Silicon Valley, come Ray Kurzweil , al quale Google ha affidato la responsabilità del suo gruppo di ricerca più futurista. Questa nuova intelligenza artificiale non ha più molto a che vedere col progetto iniziale. Ormai le macchine, molto più che a uniformarsi al modello di ragionamento umano, mirano a ingurgitare contesti attraverso enormi masse di dati. Gli ideatori hanno abbandonato l'ambizione di produrre macchine «intelligenti». Preferiscono renderle «statistiche».

Per illustrare questo cambiamento di paradigma, prendiamo il caso della traduzione automatica.

| << |  <  |  >  | >> |

Pagina 51

Il segnale e la traccia


Nei servizi digitali, un algoritmo «funziona» davvero quando riesce ad armonizzarsi a tal punto con l'ambito nel quale opera, da portare gli attori a regolare le loro azioni sui suoi verdetti, da nutrirne gli immaginari secondo i principi da lui stabiliti. Lo si può dire del PageRank di Google, del sistema di raccomandazioni di Amazon, dei voti attribuiti agli alberghi da TripAdvisor o del GPS integrato nelle automobili.

Per contro, molti altri servizi basati sui calcoli non riescono a produrre risultati abbastanza intelligibili da poter ridefinire i mondi sociali nei quali operano. I servizi di analisi dei sentimenti, che si vantano di saper individuare la tonalità soggettiva di grandi quantità di testi digitali, producono risultati talmente ovvi che sfruttandoli non si ottiene altro che un'idea assai approssimativa delle opinioni positive o negative relative a una marca, a un prodotto o a una personalità.

Per spiegare tali scarti è necessario distinguere, all'interno dei proliferanti big data, i dati che propongono contenuti espliciti, informazioni o espressioni soggettive chiamiamo questi dati dei segnali (per esempio un account di Facebook) da quelli, impliciti, che sono le registrazioni contestuali di azioni chiamiamo questi dati delle tracce (clic, geolocalizzazioni, navigazione, velocità di lettura ecc.). Gli algoritmi più «efficaci» del web sono quelli che accoppiano strettamente segnali di informazioni a tracce di azioni o, per dirla altrimenti, che si servono delle tracce per trovare la migliore relazione tra i segnali. Al contrario, i calcoli non sono altrettanto efficaci quando vengono applicati a segnali senza tracce o a tracce poco correlate a segnali.

| << |  <  |  >  | >> |

Pagina 62

con questo genere di promesse improbabili che la fortuna dei big data si fa strada presso i consulenti, gli strateghi di imprese e i media. Malgrado la moltiplicazione dei sistemi di misura, non sappiamo prevedere meglio le crisi finanziarie, i terremoti, i punteggi delle partite di calcio e i risultati elettorali. In occasione del referendum sull'indipendenza della Scozia, l'analisi dei tweet dava quasi il 60% dei voti per il sì. possibile fare molte predizioni a partire dai dati del web, ma, come tutte le predizioni, restano stime statistiche imperfette. Nel mondo della pubblicità personalizzata, si ama ripetere che la «performance di una campagna aumenta del 100% grazie a un algoritmo». Ma questa vittoria in genere significa che il numero di utenti che cliccano sul messaggio pubblicitario è passato dallo 0,01% allo 0,02%! In mancanza di cultura statistica, siamo inclini a pensare che le stime statistiche siano asserzioni definitive, certe e paralizzanti. In realtà, esse non fanno altro che dire, in modo più o meno approssimativo, il probabile.

| << |  <  |  >  | >> |

Pagina 73

Del resto, non è più necessario conoscere gli individui. L'ombra che porta la traccia dei loro comportamenti, nei loro programmi informatici, è sufficiente a nutrire i calcoli e a riconoscere i comportamenti similari. Il bersaglio del tracking non è tanto l'individuo o il singolo. Non è poi tanto necessario che coloro che identifica abbiano una psicologia, una storia, una posizione sociale, dei progetti o dei desideri. Raccolta disparata di tracce di attività sconnesse che rivelano in modo caleidoscopico delle micro-sfaccettature identitarie, l'individuo calcolato non è altro che un flusso. Esso è trasparente, e viene estrapolato dalle sue stesse tracce.

Abituati a denunciare l'egemonia dei media tradizionali, i critici degli algoritmi, questi nuovi gatekeepers, li accusano di censurare e deformare i messaggi in nome degli interessi commerciali o dell'ideologia delle ditte americane che li concepiscono. Questa critica non è infondata, come testimonia il moralismo di Apple o di Facebook, che eliminano qualsiasi tipo di nudità dai loro servizi. Tuttavia è probabile che non afferri alla radice il cambiamento in corso nel mondo algoritmico, e che riporti, su un mondo nuovo, una vecchia accusa.

Allineando i loro calcoli personalizzati sui comportamenti degli internauti, le piattaforme aggiustano i propri interessi economici in modo da soddisfare l'utente. Forse il calcolo algoritmico esercita il suo dominio proprio attraverso questo modo di confermare l'ordine sociale riportando gli individui ai loro comportamenti passati. Sostiene di offrire agli individui i mezzi per autogovernarsi; ma, riducendoli al loro mero comportamento, li destina a riprodurre automaticamente la società e se stessi. Il probabile si arroga il diritto di prelazione sul possibile.

Paradossalmente, è proprio nel momento in cui gli internauti si affezionano, attraverso prefigurazioni, ambizioni e progetti, a pensarsi quali soggetti autonomi e finalmente liberi dalle ingiunzioni dei prescrittori tradizionali, che i calcoli algoritmici li riacciuffano, dal di sotto, per così dire, conformando i loro desideri alla regolarità delle loro pratiche.

| << |  <  |  >  | >> |

Pagina 86

I nuovi calcoli ottimizzano il tempo di quadri superattivi che vivono in un mondo da rotocalco: prendono i biglietti aerei, traducono automaticamente, individuano il miglior ristorante, rispondono alle mail di informazioni pratiche, trovano con chi uscire, riempiono il frigorifero ecc. Coloro che si dicono allarmati dalla perdita delle abilità umane, spesso sono proprio quelli che, nella vita quotidiana e spesso senza rendersene conto, hanno più efficacemente conformato la loro vita alle traiettorie meccanizzate e confortevoli del pilotaggio automatico fornito dalle infrastrutture.

Ciò non toglie che la sfida politica lanciata dalle nuove scatole nere del calcolo algoritmico stia nella capacità di disinnestarle e «passare alla modalità manuale». Il rischio presentato dalle nuove infrastrutture di calcolo è che predispongano le scelte canalizzandole in processi irreversibili. I calcolatori si propongono di automatizzare quanto le nostre vite comportano di meccanico, funzionale e statistico. Nelle attività complesse, le abilità manuali sono state trasferite alle macchine. I piloti aeronautici non guidano più davvero gli aerei: li sorvegliano. Gli architetti non fanno più disegni a mano: formulano modelli direttamente in 3D. Gli algoritmi di rivelazione visiva stanno imparando a leggere le radiografie e le risonanze magnetiche che poi saranno convalidate dai medici. Di fronte a questi grandi sistemi tecnologici che s'impossessano delle nostre abilità, è sempre più necessario imparare a non disimparare.

Guardare la società dalla prospettiva dei calcolatori dà l'idea falsata che gli internauti si pieghino ai desiderata degli algoritmi. I sogni degli algoritmi sono soltanto sogni. Quando le pratiche degli internauti vengono osservate dal punto di vista della realtà quotidiana di questi ultimi, l'influenza dei calcolatori sulla loro vita sembra sparire. Gli usi sono molto più vagabondi, diversificati e strategici di quanto non pensi chi ragiona a partire da una sola piattaforma. Dai sondaggi risulta che gli utenti trovano la personalizzazione pubblicitaria mediocre, ridondante e, quasi sempre, sballata. Essa non riesce ad attrarre che un numero infimo di clic.

| << |  <  |