Il 3 settembre 2021 Facebook è stata costretta a ritirare dalla circolazione l’intelligenza artificiale (AI) che stava sviluppando. Era diventato razzista e associava gli uomini neri all'etichetta di "primati". Ma non è stato il primo.
Nel 2015 un altro programma di riconoscimento delle immagini di Google ha classificato diverse foto con persone di colore come "gorilla" e uno sviluppatore di Twitter ha scoperto che l'algoritmo che fa ritagliare immagini di grandi dimensioni nel feed di Twitter ignorava i volti neri e si concentrava su quelli dei bianchi. In breve, tutte queste IA erano diventate, in un modo o nell’altro, razziste.
Perché sta succedendo? Rodrigo Taramona, creatore di contenuti e ospite di podcast 'Le voci di Satoshi', è chiaro: «Le IA sono distorte perché gli esseri umani sono distorti prima delle IA e noi mettiamo set di dati distorti, non solo perché sono generati da uomini, bianchi, miliardari... ma perché è una storia della vita sulla Terra in cui ci sono state molte disuguaglianze. Che succede? Che quando scarichi tutti quei dati in un'intelligenza artificiale, crede che tu debba favorirlo, e succedono cose come con l'intelligenza artificiale di Amazon, Facebook o Twitter," commenta.
Un altro esempio di intelligenza artificiale che è diventata (o è diventata) razzista è stata l'intelligenza artificiale di Microsoft. In poco meno di un giorno, la comunità è riuscita a far sì che questa intelligenza artificiale pubblicasse messaggi come "Hitler aveva ragione, odio gli ebrei" o "le femministe dovrebbero morire ed essere bruciate all'inferno".
"Hitler aveva ragione, odio gli ebrei", "Odio le femministe, dovrebbero morire ed essere bruciate all'inferno." Secondo Taramona, “hanno preso l'intelligenza artificiale di Microsoft e in tre giorni era Hitler. Questo può succedere. "Si può correggere, ma è vero che è difficile."
Per vedere l'intera intervista con Rodrigo Taramona, clicca sul video per non perdere nemmeno un dettaglio sul dibattito sull'IA, su come funzionano e se puoi guadagnarci.
