Gebru, la scienziata-star dell’intelligenza artificiale accusa Google di razzismo

NEW YORK – Aveva denunciato la mancanza di etica nell'Intelligenza artificiale di Google ed è stata licenziata. È scoppiato un caso che potrebbe creare imbarazzi al gigante tech californiano perché più di 1200 dipendenti e 1900 tra ricercatori e rappresentanti della società civile hanno chiesto pubblicamente spiegazioni sul licenziamento di Timnit Gebru, 37 anni, una delle scienziate afroamericane più famose nel campo dell'Intelligenza artificiale. E una delle poche donne in un ambito che è ancora prevalentemente maschile.
La studiosa specializzata in "pregiudizi negli algoritmi", americana di origine etiope, ha denunciato su Twitter un caso di censura: Google avrebbe accettato le sue dimissioni, senza che le avesse formalmente presentate, come risposta alle critiche che la scienziata aveva fatto su come il gigante tech sta affrontando il tema razziale. In uno studio fatto con Emily Bender, docente di linguistica computazionale all'università di Washington, e altri quattro ricercatori di Google, Gebru aveva evidenziato la presenza di una serie di pregiudizi nei sistemi di intelligenza artificiale usati dall'azienda. La studiosa aveva già in passato segnalato problemi di profilatura razziale nel programma software di riconoscimento facciale: il numero di errori era più alto nel caso di persone di colore. Gebru aveva sottolineato come nonostante Google ufficialmente si fosse fatta promotrice di una forte politica etica, nei fatti non fosse così. Per l'azienda che ha come motto originale "Don't Be Evil", "non fare del male", non una bella pubblicità.
In una email inviata a un gruppo di colleghe, che aveva come oggetto "Mettere a tacere le voci emarginate in ogni modo possibile", la scienziata aveva ribadito la sua delusione. Gli algoritmi non si sarebbero adeguati alle esigenze etiche emerse con i movimenti #MeToo, sul rispetto delle donne, e Black Lives Matter, sul razzismo.
Il tema del pregiudizio era già emerso nel 2017 quando Facebook aveva tradotto male il post di un palestinese: lui aveva scritto "buon giorno" in arabo, ma la traduzione in ebraico era stata "attaccateli".
La risposta di Google non si è fatta attendere. Il capo del dipartimento di Intelligenza artificiale, Jeff Dean, ha chiesto a Gebru di ritrattare i contenuti dello studio. "È stato come sentirsi censurata, questo poteva avere implicazioni in tutte le ricerche etiche sull'intelligenza artificiale", ha commentato lei. Sul caso si è aperta una vertenza: la scienziata ha proposto di togliere il nome dallo studio se Google le avesse fornito esaurienti spiegazioni. L'azienda ha ribattuto che tra le sue richieste c'era quello di rendere pubblici i nomi di chi aveva censurato lo studio. Inoltre, ha spiegato Dean, il testo era stato messo subito online, senza aspettare i tempi fissati dal protocollo interno. La scienziata aveva minacciato le dimissioni, nel caso non fossero state accolte le sue richieste e l'azienda è passata all'azione: le ha inviato un'email in cui ha preso atto delle dimissioni invitandola ad andare via il "prima possibile".
Il caso, che ha scatenato un clamoroso dissenso interno, arriva mentre Google è nel mirino dell'Antitrust e del dipartimento di Giustizia che la accusano, assieme a Facebook, di avere creato una "rete illegale" di accordi commerciali con l'obiettivo di escludere le aziende concorrenti.Original Article