Le due scienziate hanno dedicato la loro carriera a rendere i sistemi di IA più equi e inclusivi. Il loro lavoro si è concentrato sull’eliminazione di stereotipi e ingiustizie nei sistemi di IA, in particolare quando questi riguardano gruppi svantaggiati o discriminati, come minoranze etniche, donne, persone LGBTQ+, persone con disabilità e altri gruppi socialmente marginalizzati.
L’obiettivo è ridurre i pregiudizi nascosti nei modelli di IA, che possono portare a decisioni ingiuste in ambiti cruciali come l’assunzione di personale, il riconoscimento facciale o l’accesso ai servizi finanziari.
Margaret Mitchell, nata negli Stati Uniti nel 1986, ha una solida formazione in linguistica e informatica. Ha conseguito un dottorato in informatica presso l’Università di Aberdeen nel 2013 e, nel 2017, ha fondato il team di ricerca “Ethical AI” di Google.
Timnit Gebru, nata ad Addis Abeba nel 1984, è fuggita dall’Etiopia a causa della guerra con l’Eritrea e ha ricevuto asilo politico negli Stati Uniti. Ha conseguito una laurea in ingegneria informatica all’Università di Stanford e, nel 2018, è entrata a far parte di Google, dove ha co-diretto il team sull’etica dell’intelligenza artificiale con Margaret Mitchell.
I contributi critici delle due scienziate sono di grande rilievo: nel 2020, insieme alla linguista Emily Bender, hanno pubblicato un articolo in cui evidenziavano i rischi e i costi associati all’uso dei modelli linguistici di grandi dimensioni (LLM).
In questo studio hanno introdotto il termine “Stochastic Parrots”(pappagalli stocastici) per descrivere come questi modelli non comprendano realmente il significato del linguaggio, ma si limitino a generare testi coerenti basandosi su statistiche e probabilità derivate da enormi quantità di dati.
In altre parole, i LLM “pappagallano” il linguaggio umano senza possedere una vera comprensione del contesto o della realtà, proprio come un pappagallo che ripete parole senza conoscerne il significato.
Google ha chiesto alle due ricercatrici di ritirare lo studio e, al loro rifiuto, nel 2021 Mitchell è stata licenziata per presunte violazioni del codice di condotta aziendale. Gebru, invece, è stata indotta a dimettersi.
Oggi lavora per cambiare il settore dell’IA dall’esterno: ha fondato il DAIR (Distributed Artificial Intelligence Research Institute), un istituto che collabora con ricercatori di intelligenza artificiale in tutto il mondo, con particolare attenzione all’Africa e all’immigrazione africana negli Stati Uniti. Ha anche co-fondato il gruppo Black in AI, che sostiene il lavoro e la leadership della comunità nera in questo ambito.
Mitchell, invece, è attualmente a capo dell’etica dell’intelligenza artificiale presso Hugging Face, una startup di IA.
Entrambe le scienziate sono riconosciute tra le voci più influenti nella promozione della diversità e dell’inclusione nell’IA, sottolineando come la mancanza di pluralità possa compromettere la qualità e l’equità delle tecnologie sviluppate.
Il loro lavoro ribadisce l’importanza di costruire modelli non solo sempre più avanzati ed efficienti, ma anche sicuri ed etici.
Sara Sesti
Matematica, ricercatrice in storia della scienza
Collabora con l'Università delle donne di Milano
facebook.com/scienziateneltempo/
