Le nouveau logiciel de Google de reconnaissance faciale a fait une erreur qui n’est pas passée inaperçue, en identifiant un couple d’Afro-américains comme des gorilles.
Le géant américain Google a dû présenter ses excuses à la suite d’une erreur de son nouveau logiciel de reconnaissance faciale, qui a confondu un couple noir avec des gorilles.
“Nous sommes consternés et sincèrement désolés de ce qui est arrivé”, a déclaré un porte-parole de Google mercredi soir à l’AFP. “Nous prenons immédiatement des mesures pour éviter une répétition de ce genre d’erreur”, a-t-il ajouté.
La photo avait d’abord été signalée sur Twitter par Jacky Alcine avec en légende : “Google Photos, vous vous êtes plantés. Mon amie n’est pas un gorille”.
Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) 29 Juin 2015
Quelques défauts encore
D’autres problèmes de ce style sont survenus et les machines n’arrivent pas à identifier certains visages. D’autres sont même identifiés comme des chiens. Mais selon Yonatan Zunger, un haut responsable de Google, c’est “l’histoire du racisme qui rend cette erreur particulièrement grave”.
Zunger a répondu dans un message : “Oups, cet incident est assez haut dans ma liste des bugs qu’on ne veut jamais voir arriver. J’en ai des frissons”. Il a expliqué que l’intelligence artificielle était encore en train “d’apprendre”, et qu’il fallait être prudent pour ne pas qu’elle "apprennent" le racisme des humains.
@jackyalcine Thank you for telling us so quickly! Sheesh. High on my list of bugs you *never* want to see happen. ::shudder::
— Yonatan Zunger (@yonatanzunger) 29 Juin 2015
Google, en lançant son nouveau service photos en mai, a voulu investir massivement dans l’intelligence artificielle, en faisant mieux comprendre aux machines ce que “voient les gens” et le sens qu’ils y donnent, tout comme Facebook.