Cathy O’Neil, nata nel 1972 negli Stati Uniti, ha studiato all’Università di Berkeley e nel 1999 ha conseguito un dottorato in matematica presso Harvard.
Successivamente, ha lavorato nei dipartimenti di matematica del MIT e del Barnard College, concentrando le sue ricerche sulla geometria algebrica.
Nel 2007, ha lasciato il mondo accademico per entrare nel settore finanziario, dove ha lavorato per quattro anni, tra cui due presso l’hedge fund D.E. Shaw. Tuttavia, disillusa dall’ambiente della finanza, si è unita al movimento Occupy Wall Street, nato nel 2011 per denunciare gli abusi del capitalismo finanziario e le crescenti disuguaglianze economiche.
Nel 2016, ha pubblicato Weapons of Math Destruction, tradotto in Italia con il titolo Armi di distruzione matematica. Come i big data aumentano la disuguaglianza e minacciano la democrazia.
In questo saggio, O’Neil smonta l’idea che gli algoritmi siano strumenti neutri e oggettivi, mostrando invece come possano amplificare le ingiustizie sociali.
Questi modelli matematici, definiti “armi di distruzione matematica”, vengono utilizzati per valutare insegnanti, studenti e lavoratori, selezionare candidati per un impiego, concedere o negare prestiti, influenzare gli elettori e persino monitorare la salute delle persone. Tuttavia, spesso incorporano pregiudizi, ignorano variabili fondamentali e, quando commettono errori, non offrono possibilità di appello.
Attraverso numerosi case studies, O’Neil denuncia i pericoli della discriminazione algoritmica e promuove l’adozione di modelli più equi ed etici. Perché rivestire un pregiudizio di una veste statistica non lo rende meno pericoloso.
Oggi la scienziata è alla guida di ORCAA (O’Neil Risk Consulting & Algorithmic Auditing), un’azienda che aiuta organizzazioni e imprese a gestire i rischi legati agli algoritmi. Vive a New York con il marito, Aise Johan de Jong, e i loro tre figli.
Per approfondire: Scienziate nel tempo. Più di 100 biografie, Ledizioni 2023.
Sara Sesti
Matematica, ricercatrice in storia della scienza
Collabora con l'Università delle donne di Milano
facebook.com/scienziateneltempo/
