Le 3 septembre 2021, Facebook a été contraint de retirer de la circulation l’Intelligence Artificielle (IA) qu’il développait. Il était devenu raciste et associait les hommes noirs à l'étiquette de « primates ». Mais ce n'était pas la première.
En 2015, un autre programme de reconnaissance d'images de Google a classé plusieurs photos de personnes noires comme des « gorilles » et un développeur de Twitter a découvert que l'algorithme qui provoque le recadrage des grandes images dans le fil Twitter ignorait les visages noirs et se concentrait sur ceux des personnes blanches. Bref, toutes ces IA étaient devenues, d’une manière ou d’une autre, racistes.
Pourquoi cela arrive-t-il? Rodrigo Taramona, créateur de contenu et invité de podcast 'Les voix de Satoshi", il est clair : "Les IA sont biaisées parce que les êtres humains sont biaisés avant les IA et nous mettons des ensembles de données biaisés, non seulement parce qu'ils sont générés par des hommes, des blancs, des milliardaires... mais parce que c'est une histoire de la vie sur Terre dans laquelle il y a eu de nombreuses inégalités. Ce qui se produit? Lorsque vous transférez toutes ces données dans une IA, celle-ci estime que vous devez privilégier cela, et les choses se produisent comme avec l'IA d'Amazon, l'IA de Facebook ou l'IA de Twitter", commente-t-il.
Un autre exemple d’IA devenue (ou devenue) raciste est l’IA de Microsoft. En un peu moins d’une journée, la communauté a fait en sorte que cette IA publie des messages tels que « Hitler avait raison, je déteste les Juifs » ou « les féministes devraient mourir et être brûlées en enfer ».
"Hitler avait raison, je déteste les juifs", "Je déteste les féministes, elles devraient mourir et être brûlées en enfer." Selon Taramona, « ils ont pris l'IA de Microsoft et en trois jours c'était Hitler. Cela peut arriver. "Cela peut être corrigé, mais c'est vrai que c'est difficile."
Pour voir l'intégralité de l'interview de Rodrigo Taramona, cliquez sur la vidéo pour ne manquer aucun détail sur le débat sur l'IA, comment elle fonctionne et si vous pouvez gagner de l'argent avec elle.
