Des incitations au suicide dans un dessin animé pour enfants sur Youtube

Pas moins de 400 heures de vidéos sont publiées chaque minute sur Youtube. Pas moins de 400 heures de vidéos sont publiées chaque minute sur Youtube. [© LIONEL BONAVENTURE / AFP]

La modération de Youtube est plus que jamais dans le viseur après qu'une mère de famille américaine, qui veut rester anonyme, a fait une découverte sordide en regardant des dessins animés avec son fils sur la version «Kids» du réseau social, réservée aux enfants.

Au beau milieu de l'action, le cartoon s'est brutalement interrompu pour montrer un homme donnant des conseils sur la meilleure façon... de se taillader les poignets. «Souvenez-vous, les enfants : de gauche à droite pour attirer l'attention, dans le sens de la longueur pour obtenir un résultat», déclare l'inconnu avec enthousiasme, tout en mimant le geste, avant de lâcher l'injonction «Finissez-en». La scène dure une dizaine de secondes, puis le dessin animé reprend comme si de rien n'était. 

Une mésaventure, repérée par Clubic, que la mère a racontée sur le blog pédiatrique Pedimom. L'objectif ? Alerter les parents sur les dangers d'une telle séquence, qui peut pousser les plus jeunes à l'automutilation, voire au pire, alors que le suicide est la troisième cause de décès chez les 10-24 ans aux Etats-Unis, avec 157 000 passages à l'acte recensés par an. Elle y explique avoir immédiatement supprimé l'application de ses appareils numériques, et interdit son utilisation à ses enfants.

La vidéo incriminée a été retirée dans la foulée de la plateforme de streaming. A croire qu'il était temps, sachant que plusieurs internautes avaient déjà signalé les faits il y a huit mois, sans grand résultat. Youtube a finalement réagi à la polémique par un communiqué relayé par le Washington Post, expliquant «travailler sans relâche» pour éviter «d'encourager les comportements dangereux» et rappelant que «la majorité de ces vidéos sont supprimées avant même qu'elles ne soient visualisées».

UNE SÉRIE DE PRÉCÉDENTS

C'est loin d'être la première fois que le géant du streaming est pointé du doigt pour sa modération des contenus et commentaires inappropriés, ou plutôt les défaillances de celle-ci, alors que 400 heures de vidéo sont éditées chaque minute sur Youtube. Il y a quelques jours, un utilisateur de la plateforme, l'Américain Matt Watson, a ainsi publié sur Reddit un article où il explique avoir trouvé sur le réseau social des dizaines de vidéos d'enfants prenant des poses suggestives. Or, il s'avère que les commentaires sous ces vidéos contiennent souvent des propos douteux, entre émojis sexualisés et propositions sans équivoque, voire des liens menant à des sites pédophiles.

Pire : Matt Watson démontre que l'algorithme de Youtube est conçu pour pousser ses utilisateurs vers ce type de vidéos. Par exemple, un internaute regardant deux vidéos de jeunes filles en bikini (ce qui est toléré par la plateforme) se verra suggérer une autre vidéo d'une fête d'adolescentes autour d'une piscine. Mais cela va encore plus loin : les recommandations de la plateforme proposeront des vidéos de jeunes filles pré-pubères prenant des poses suggestives ou considérées comme telles. Un «cercle de pédophilie», comme ce lanceur d'alerte le définit, qui permet aux individus déviants de se voir proposer un contenu sur-mesure.

En 2017, Franceinfo avait également consacré une enquête sur les ratés de la modération de Youtube Kids en France, application qui proposait aux enfants des vidéos truffées de contenus problématiques : T'choupi découvre un vibromasseur et profère des grossièretés sur du gangsta rap, la Souris verte fume du cannabis, Mickey reluque Minnie en sous-vêtements, la Reine des Neiges empoisonne des chewing-gums, des personnages sont brûlés vifs ou sautent d'un toit... Contrôle parental recommandé, donc.

À suivre aussi

Ailleurs sur le web

Derniers articles