Alors que le réseau social X vient d'annoncer le 14 janvier qu'il ne sera plus possible de créer des images de femmes dénudées à partir de l'intelligence artificielle Grok, les experts alertent sur la présence de nombreux sites et applications permettant de créer ces contenus.
Grok est un des derniers exemples des dérives d'Internet et des effets dangereux de l'intelligence artificielle. Lancé en novembre 2023, ce chatbot d'IA développé à l'initiative d'Elon Musk, avait à l'origine pour objectif de répondre aux questions des utilisateurs de X sur divers sujets, avec parfois une pointe d'humour. C'était une sorte de «Wikipédia» avec un ton décalé.
En juillet 2025, le logiciel a commencé à faire beaucoup de bruit. Et pas pour les bonnes raisons. Des internautes -majoritairement masculins- étaient de plus en plus nombreux à détourner l'utilisation première de Grok à des fins pornographiques.
Certains s'amusaient à demander à cet outil de générer des images de femmes dénudées, à partir de personnes réelles. Le scandale a pris un vif tournant sur les réseaux sociaux. Après des mois d'attente, le réseau social d'Elon Musk a pris, mercredi 14 janvier, des mesures permettant d'empêcher la création de ces contenus.
Mais pour les experts, cette décision est loin d'être miraculeuse puisque les outils permettant de générer ces contenus sont en vérité très nombreux et surtout faciles d'accès. «L'utilisation de l'IA pour nuire aux femmes ne fait que commencer», racontent les spécialistes dans les colonnes du Guardian.
Des dizaines d'applications et de sites
«Il existe tout un écosystème consacré à la nudité et à l'humiliation des femmes sur Internet», alerte Anne Craanen, chercheuse à l'Institute for Strategic Dialogue de Londres, spécialisée sur les violences sexistes facilitées par le Web. «C'est un terrain très fertile où la misogynie prospère.»
Sur Reddit (un site web communautaire de discussion) ou sur X, de nombreux internautes se partagent des recommandations d'applications pour créer ces images, depuis que Grok ne peut plus le faire. Ces pages internet et ces applications se comptent en plusieurs dizaines, selon une étude publiée par l'Institute for Strategic Dialogue en octobre. Certaines applications sont même disponibles sur Google ou Apple Store.
«Une grande partie de ces sites générant des deepfakes sont hébergés et soutenus par de grandes entreprises que nous utilisons tous», prévient Nina Jankowicz, experte en désinformation et ancienne directrice de la Commission de gérance de la désinformation.
OpenAI, le leader de l'intelligence artificielle compte aussi s'y mettre. «OpenAI a annoncé en novembre qu'elle autoriserait les contenus érotiques sur ChatGPT. Ce qui s'est passé sur X montre que toute nouvelle technologie est utilisée pour abuser des femmes et des filles et les harceler», explique Clare McGlynn, professeure de droit à l'université de Durham et spécialiste des violences faites aux femmes et aux filles.
Un phénomène ancien
Conséquence directe de l'impact de ces contenus, les femmes sont plus hésitantes que les hommes à utiliser ces outils. «Les femmes ne perçoivent pas cette nouvelle technologie comme un outil passionnant mais plutôt comme un moyen d'être encore une fois harceler et maltraiter», ajoute Clare McGlynn.
Les spécialistes rappellent également que ces deepfakes ne sont pas un phénomène nouveau. «Je ne comprends pas pourquoi il a fallu autant de temps pour agir», s'interroge Jess Asato, membre du Parlement au Royaume-Uni.
