Accusée d'appuyer le «profilage racial», la technologie de reconnaissance faciale fait l'objet d'un vif débat au Etats-Unis, sur fond de manifestations anti-racisme. Si déjà plusieurs grandes sociétés se sont positionnées sur cette technologie, le géant IBM marque un temps d'arrêt en annonçant sa décision de ne plus vendre de logiciels de reconnaissance faciale à des fins générales.
«Nous pensons que c'est le moment d'ouvrir un dialogue national sur les technologies de reconnaissance faciale pour déterminer si elles doivent être utilisées, et comment, par les forces de l'ordre», a déclaré Arvind Krishna, le directeur général d'IBM, dans une lettre adressée aux membres du Congrès américain. Un document dans lequel il déclare son entreprise fermement opposée «à l'utilisation de toute technologie à des fins de surveillance de masse, de profilage racial, de violations des droits et libertés humaines de base ou encore tout objectif contraire à nos valeurs».
Fondée sur l'intelligence artificielle, la reconnaissance faciale «peut aider la police à protéger les communautés mais ne doit pas promouvoir les discriminations ou l'injustice raciale», ajoute le dirigeant pour qui «Les fournisseurs et les clients utilisateurs d'IA partagent la responsabilité de s'assurer que cette technologie n'est pas biaisée, particulièrement quand il s'agit d'appliquer la loi». En pleine vague de contestation contre le racisme et les violences policières, IBM pose ici la question de l'éthique à apporter à une telle technologie. Arvind Krishna demande ainsi au Congrès de faire en sorte que les caméras mobiles portées par les agents et les outils d'analyse permettent de faire rendre des compte à la police en cas de besoin.
Tandis que Neema Singh Guliani, de l'association American Civil Liberties Union (ACLU), estime que la reconnaissance faciale ne devrait pas être intégrée à ces caméras du tout. «Nous devons investir dans des technologies susceptibles d'aider à résorber la fracture numérique, pas des technologies qui créent une infrastructure de surveillance et exacerbent les abus de la police et le racisme structurel», a-t-elle argumenté dans un communiqué publié en réponse aux mesures de réforme de la police proposées au Congrès. Des mesure qui font suite à la mort de George Floyd, un Afro-Américain asphyxié par un policier blanc à Minneapolis le 25 mai.
Retrouvez toute l'actualité sur la mort de George Floyd ICI.