A l’heure du développement rapide des outils technologiques, de nombreuses préoccupations apparaissent. De quoi faire d’Internet un espace dangereux pour les plus jeunes, comme le déplore Sarah El Haïry, haute-commissaire déléguée chargée de l'Enfance, de la Jeunesse et des Familles, pour CNEWS.
Entre opportunités et dangers. Si elle reconnaît que «l’IA est géniale pour apprendre certaines choses», Sarah El Haïry voit le monde en ligne comme une source d’inquiétudes pour les plus jeunes. CNEWS l'a rencontrée à l’occasion du récent vote de l’Assemblée nationale en faveur de l’interdiction des réseaux sociaux aux moins de 15 ans. Développement des comportements pédocriminels, hausse des cas de cyberharcèlement et de la dépendance des 11-14 ans au digital, la haute-commissaire déléguée chargée de l'Enfance, de la Jeunesse et des Familles passe en revue l’ensemble des dossiers périlleux dont le gouvernement a fait une priorité.
Les parlementaires viennent de statuer en faveur de l’interdiction des réseaux sociaux pour les moins de 15 ans. Quelles sont les raisons qui expliquent une telle mesure ?
Comme je le dis toujours, ce n’est pas une punition, c’est une protection. De récentes études rappellent à quel point les jeunes utilisateurs d’Internet ne bénéficient pas encore d’une carapace psychologique dont peuvent se doter les adultes. Ils ne sont en aucun cas des mini-adultes ou des adultes miniatures. Les conséquences de l’utilisation des outils modernes sur leur moral, sur leur anxiété, sur leur développement, sur leur vie sociale, leur perte de confiance ou encore leur sommeil et d’autres facettes physiques concrètes sont très nombreuses. De plus en plus d’adolescents utilisent l’IA pour se confier sur leur vie personnelle. Je ne dis pas qu’il ne faut pas vivre avec de l’IA générative ou toute autre invention numérique, mais il faut bien garder à l’esprit quand et comment s’en servir. Ce n’est ni notre psy, ni notre copain ou copine. C’est une sorte de manne d’informations qu’il faut apprendre à utiliser. Lui confier de l’information intime, par exemple, c’est un risque pris.
L’interdiction représente quant à elle un débat parlementaire : ce sont les élus qui décideront jusqu’où ils veulent aller et quelle définition des réseaux sociaux ils donnent. Selon moi, à partir du moment où il y a de la messagerie, il s’agit d’un réseau social. Même si c’est un jeu vidéo, qui offre une toute autre plate-forme indépendante, cela reste un réseau social et connecte des personnes qui ne se connaissent pas, qui ne se sont jamais vues, de manière non exclusives. En tous les cas, il faut protéger les enfants. Leur permettrait-on de faire une fête à la maison sans qu’ils n’aient à faire savoir qui est invité ? Ces espaces de jeu connectés comme Roblox ou Minecraft créent des communautés et doivent être pensés comme un réseau social.
A l’inverse, il faut souligner que certains réseaux sociaux sont pensés pour des enfants et sont très «safe». Je pense au réseau social qu’a créé LEGO par exemple. Il est parfait. Il n’y a pas d’angoisse de partage de photo ou de vidéo, c’est exclusivement réservé aux enfants, etc. Les parents doivent savoir ce qui est bon ou pas pour leurs enfants. Bien sûr il y a la question du contrôle parental, la question de l’âge auquel on offre un équipement numérique à ses enfants, mais on doit aussi mettre l’accent sur la compréhension des dangers, que ce soit de ce qu’on a évoqué mais aussi la fake news, les deep fake, la sextortion… Tant de mots qui sont entrés dans notre vocabulaire et qui représentent les dangers de ces nouveaux médias.
Il existe déjà l’exemple de l’Australie, qui a opté pour une telle interdiction depuis le 10 décembre 2025. Vous n’êtes pas sans savoir que rapidement, des jeunes utilisateurs des réseaux sociaux ont réussi à contourner les blocages, notamment avec l’aide de leurs parents.
Nous avons réussi à mettre en place un système de blocage pour la pornographie. Le dernier rapport consulté par le Sénat sur ce sujet indiquait que les enfants étaient soumis pour la première fois à ce contenu sexuel dès l’âge de 9 à 11 ans. La moitié d’entre eux ne voulait pas y être soumis. Est-ce normal d’être placé devant des images aussi violentes à un tel âge ? Une personne sur deux avoue que ce qu’il a observé sur Internet a changé sa manière de se comporter dans ses relations amoureuses. Ce n’est pas anodin.
Si les parents dérogent à cette règle, alors c’est un nouveau débat que l’on ouvre
A l’image de la pornographie, on pose simplement une barrière supplémentaire. On souhaite que les enfants ne soient plus exposés «par hasard». La deuxième chose est que, bien sûr les stratégies de contournements existent, mais la tâche est plus difficile. Si les parents aident, alors ils le font en leur âme et conscience. Nous aurons fait notre travail en les écartant de ces risques seuls. Si leurs propres parents dérogent à cette règle, alors c’est un nouveau débat que l’on ouvre.
L’IA est géniale pour apprendre certaines choses. Par exemple progresser en langue grâce à l’IA conversationnel ou bien rendre un texte plus inclusif pour les dyslexiques. Mais le problème est qu’aujourd’hui, on a encore aucune garantie que ces outils soient protecteurs. En tirer le meilleur, les flécher non seulement pour les enfants mais aussi pour les parents, telle est la mission du gouvernement. On traque donc ceux qui représentent un danger, que ce soit les entreprises, les marketplace qui vendent des produits terriblement dangereux comme Shein, Temu... mais aussi les générateurs d’IA qui permettent à certains utilisateurs d’être également des sources d’inquiétude.
Vous évoquez le cas de Shein. Que pensez-vous du fait que le géant chinois continue de proposer ses articles en France, aujourd’hui encore ?
Le décision de justice a été claire : il fallait que Shein et toutes les plates-formes concernées dans cette affaire retirent tous les articles en lien avec la pédocriminalité. C’est ce qu’il s’est passé. Aujourd’hui, on n’en trouve plus. Pour d’autres sites, les procédures de justice sont encore en cours. On en trouvait sur d’autres géants comme AliExpress. On a, à chaque fois, car la fermeté est totale, engagé des procédures de justice et fait des signalements. Les objets en question sont loin d’être anodins, au contraire. Ils tombent sous le coup de la loi, ce sont des objets pédociminels. Or, on le sait la détention de ces poupées, n'empêche pas le passage à l'acte, au contraire.
Notre traque est totale : dans le monde virtuel et dans le monde réel.
Comment le gouvernement a-t-il œuvré pour faire de ces places de marché des espaces plus sûrs et comment compte-il continuer cette mission à l’avenir ?
C’est simple : l'acheteur est condamnable et certains ont été condamnés. Le risque encouru est de 7 ans de prison et 75.000 euros d’amende. Des condamnations exemplaires, allant notamment jusqu'à 30 mois d'emprisonnement ont récemment été prononcées. On a en outre découvert que certains acheteurs étaient déjà connu pour des faits de violences sexuelles sur des enfants, ou découvert des éléments à charge au sein de leur matériel informatique. C'est pourquoi je reste persuadée que traquer les acheteurs de ces objets pédocriminels c'est prévenir le passage à l'acte sur nos enfants, et les protéger. Notre traque est totale : dans le monde virtuel et dans le monde réel. En permettant la vente d’objets pédocriminels, le monde digital est un véritable accélérateur de risque et malheureusement de violences faites sur les enfants.
La traque des pédocriminels est continue. Elle est permise grâce à nos alliés, l’ARCOM, qui est notre autorité de régulation au sens de la législation sur la régulation des plateformes, ou PHAROS, plateforme de signalement ou encore l'office anti-cybercriminalité et l'office des mineurs, qui diligentent les enquêtes. Dans le cadre de ces affaires de poupées pédocriminelles, on a engagé une opération plus large qui a concerné la police et la gendarmerie, qui ont mis en état d’arrestation certains acheteurs.
J’ai convoqué les marketplace moi-même à l’occasion de réunions productives. J’ai pu échanger avec certaines plates-formes de B2C, c'est-à-dire les entreprises qui s'adressent à des particuliers, mais aussi des géants comme Vinted, Rakuten, Shein… En réalité, c’est moins une histoire de nationalité qu’une affaire de volonté forte et assumée de protéger les enfants.
Pour les grandes marques, c’est un ultimatum
Cela va même plus loin : les technologies existent déjà. On le voit dans la lutte contre la contrefaçon ou dans l’utilisation de l’intelligence artificielle à des fins de vente additionnelle. On veut, et on a déjà expliqué qu’on ne lâcherait pas ce combat, que les investissements soient les mêmes pour ce qui est de la sécurité des enfants, et donc que les IA soient également programmées pour déterminer quels acheteurs sont susceptibles de consommer ces articles pédocriminels mais également pour détecter leur mise en vente et les retirer immédiatement. Mais sécuriser des systèmes, cela signifie aussi coopérer avec la justice ou encore transmettre les informations des acheteurs mais aussi faire une liste noire des vendeurs qui proposent ce genre de contenu… Le producteur, l’intermédiaire c’est-à-dire la marketplace et l’acheteur doivent être visés. Maintenant, pour les grandes marques, c’est un ultimatum. Elles doivent investir pour protéger les enfants et enlever toutes ces horreurs de leur site, en programmant de l’IA pour contrôler les images, les contenus et les objets en vente sur leur propre plate-forme.
Quel impact la négligence des marketplace citées a sur l’ensemble de notre société ?
Une poupée imitant un nourrisson qui a vocation à être pénétrée par un homme parce qu’elle a été créée dans ce sens est un accélérateur de drame. Il tombe sous le coup de la loi, pour les sites qui proposent la vente de ces horreurs, de ne pas laisser vendre ces objets et de protéger ainsi les plus jeunes.
Il y a quelques années, il fallait se rendre sur le dark net pour se procurer de tels articles. Il fallait payer en monnaie virtuelle, utiliser un VPN... c’était compliqué. A présent, à cause de cette négligence, en trois clics, on peut trouver ces ignominies qui ne sont absolument pas des articles de sexe classique, que l’on pourrait trouver dans un sex shop par exemple, parce que ce sont des objets pédocriminels. Ce n’est pas une simple poupée sexuelle, il s'agit de la banalisation de la pédocriminalité. On connaît les effets que cela a, à moyen et long terme, sur ces utilisateurs. Au bout de quelques mois, pour eux, cela devient insuffisant et ils passent sur de vrais enfants.
93% des parents affirment que l’usage des écrans impacte leurs enfants
Chaque jour, sur Internet, on recense plus de 750.000 pédocriminels. Ils sont à la recherche de proie. Leurs cibles sont des enfants, qui sont moins armés que des adultes et peuvent facilement tomber dans leurs pièges. Ils peuvent s’y prendre de multiples manières, par exemple en s'attaquant directement à des jeunes sur les réseaux sociaux, alors que 60% des 11-14 ans sont inscrits sur un réseau social, alors même qu’ils sont interdits aux moins de 13 ans. On sait que les signalements de comportements d’abus ou de harcèlement sexuels ont augmenté de 87% sur le National Center Source for Exploitation Children, entre 2019 et 2024. Se rend-on compte ? En même temps, 93% des parents affirment que l’usage des écrans impacte leurs enfants et 70% d’entre eux disent ne pas avoir la possibilité de contrôler cet usage. Le fait d'éloigner les enfants des réseaux sociaux est ainsi une protection, un bouclier, et non une sanction.
Il existe des prédateurs, le numérique leur permet d’être plus actifs que jamais, il faut donc prendre ses responsabilités. Il faut donc évidemment mener le combat que l’on mène contre les marketplace mais aussi contre les jeux vidéo comme Roblox, qui permettent à de très jeunes joueurs d’entrer en contact avec des adultes malintentionnés, contre les réseaux sociaux qui hébergent des contenus à caractère sexuel, ou qui permettent le cyberharcèlement…
En plus, il faut sensibiliser les parents à ces lieux qu’ils pensent parfois inoffensifs en leur expliquant qu’ils sont au contraire des lieux de cyberharcèlement, voire d'extorsion. 37% des jeunes sont touchés par le harcèlement ou le cyberharcèlement. 41% des jeunes victimes le sont via WhatsApp, en particulier sur des groupes de classe. Tout simplement. Cet espace est évidemment une immense opportunité d’accès à la culture, au savoir, à des choses dont on ne pouvait pas profiter par le passé et qui impactent positivement les études ou le travail de chacun. Mais à chaque âge son contenu. Certaines choses ne sont pas acceptables. Vendre des objets pédocriminels, développer une IA qui finit par déshabiller des enfants, ce sont évidemment des lignes rouges de franchies.
Vous mentionnez les intelligences artificielles génératives qui ont été utilisées à des fins de cyberharcèlement dans les précédents mois, il s’agit d’un autre dossier important pour le gouvernement...
Oui, j’ai d’ailleurs déjà saisi la commissaire européenne dans ce sens. L’IA d’Elon Musk ne peut pas continuer à déshabiller des enfants en toute impunité. Il s’agit tout simplement de quelque chose qui est interdit par la loi. Ce n’est pas un jeu, c’est le droit. Cela va, tout comme pour les poupées pédocriminelles, participer à nourrir des personnes aux comportements criminels. La commission européenne a d’ailleurs annoncé l’ouverture d’enquête et je m’en réjouis.
J’ai également saisi l’ARCOM et je rencontre l’OFCOM à Londres. Aujourd’hui, l’IA est un horizon d’opportunité pour nos entreprises, etc. Sans vigilance et protection pour les plus vulnérables, le risque est énorme. Nous allons travailler sur l’IA et l’éducation, comment faire de cette IA une chance pour les plus jeunes et non un danger et ensuite nous parlerons de comment l’OFCOM régule ce fléau, si nous pouvons nous inspirer de certaines choses, nous le ferons.
L’intelligence artificielle générative peut donner des contenus absolument abusifs, qui mettent en danger la sécurité des enfants, tout autant que cela peut être une source d’opportunité. Là, nous devons prendre des décisions pour savoir ce que nous voulons que cela devienne.
On peut notamment se poser la question de la diffusion, celui qui héberge le contenu sensible mais celui qui est responsable est celui qui permet que le contenu voie le jour, c’est à dire celui qui a conçu l’algorithme qui autorise la création de contenu illégal. Celui qui l’utilise et demande la création du contenu à la machine est également coupable. Il y a celui qui permet et celui qui demande. Le droit français est très claire, les deux facettes sont encadrées et régies par des lois.
Derrière chaque signalement, il y a un abus irresponsable que nous voulons arrêter. Ces personnes existent. Soit on agit maintenant, soit on pleure demain. Nous avons choisi : nous préférons agir dès maintenant.
