I temi di Armi di distruzione matematica (Crown Books, 2016; trad. Bompiani, 2017) sono legati a doppio filo alla vicenda personale dell’autrice, Cathy O’ Neil: una laurea a Berkeley, un dottorato ad Harvard, docenze al MIT e al Barnard College, uno stipendio da sogno come analista in uno degli hedge fund più grandi del mondo. Tutto crolla con la crisi del 2008 e l’improvvisa consapevolezza del rischio sistemico di alcuni strumenti finanziari, non compreso dalla maggioranza degli addetti ai lavori. O’Neil, allora, lascia la finanza e mette tutta la sua esperienza al servizio del nemico, diventando uno dei volti di punta del movimento Occupy Wall Street. È in quei giorni che matura la decisione di mettere a nudo le weapons of math destruction che ha incontrato nella sua carriera, cominciando proprio dai modelli di gestione del rischio che non permisero di prevedere la crisi. Ne nasce un saggio avvincente come un romanzo, che riesce a essere comprensibile a ogni genere di pubblico senza rinunciare al rigore scientifico, composto da storie di vite stravolte da un mix improvvido di errori umani e algoritmi matematici non troppo aderenti alla realtà. Si comincia con una brillante insegnante, licenziata a causa di un sistema automatico di valutazione basato sui risultati dei suoi alunni, che però non tiene conto del contesto svantaggiato da cui provengono. Si continua con un giovane laureato, a cui il punteggio ottenuto in un test psicoattitudinale, svolto rigorosamente online, impedisce di trovare lavoro. Storie che mettono in luce come questo tipo di strumenti, nati con l’epoca dei big data, sia ormai diffuso in tutti settori, talvolta con conseguenze nefaste per i singoli. È il caso di un altro dei protagonisti delle vicende analizzate nel libro, un piccolo criminale costretto a un lungo periodo di carcerazione preventiva anche a causa di un algoritmo predittivo del rischio di recidiva che, “allenato” con decenni di sentenze dei giudici americani, finisce per replicare, nei suoi risultati, i pregiudizi etnici, razziali e di classe di quel sistema giudiziario. L’analisi della O’Neil, a tratti, finisce per essere manichea. Di certo, però, è illuminante sui rischi di questi strumenti, a cui saremmo portati ad attribuire oggettività, e che invece riproducono gli errori e i pregiudizi nascosti nei dati che sono chiamati a interpretare. L’uso che ne faremo è una delle grandi sfide dei prossimi decenni, ed è sicuramente un bene che qualcuno ci ricordi i rischi in materia di diseguaglianze e tenuta democratica di cui sono portatori, come O’Neil fa fin dal sottotitolo del saggio.