En direct
A suivre

Facebook confronté à une vague de revenge porn

Photo d'illustration Selon les documents récupérés, Facebook a dû évaluer plus de 50.000 cas potentiels de revenge porn en un mois.[AFP PHOTO/Raul ARBOLEDA RAUL ARBOLEDA / AFP]

Une enquête, publiée lundi 21 mai par le journal britannique The Guardian, révèle pour la première fois l’ampleur de la tâche des modérateurs Facebook, confrontés à des contenus sexuellement explicites.

Selon les documents récupérés par The Guardian pour son enquête, et qui concernent les règles de modération à adopter, Facebook a dû évaluer plus de 50.000 cas potentiels de revenge porn (publication de photos ou de vidéos intimes d’une personne dans le but de l’humilier) et de sextorsion (extorsion de faveurs sexuelles ou monétaires via Internet) dans le seul mois de janvier. Le réseau social a notamment dû désactiver 14 000 comptes liés à ce type d’abus sexuels sur la même période.

Un «sujet prioritaire»

La firme de Mark Zuckerberg a affirmé qu’il s’agissait pour elle d’un sujet prioritaire, et a rappelé qu’elle utilisait actuellement un logiciel d’image-matching (basé sur la reconnaissance visuelle intelligente) pour éviter au maximum le contenu sexuellement explicite. Elle a également rappelé que son système de modération était centré sur les utilisateurs, invités à «signaler» les contenus qu’ils jugent choquants.

Pourtant, le flou règne au sein de l’équipe de modération. «La politique sexuelle est celle où les modérateurs font le plus de fautes», car «c’est très complexe», explique une source relayée par le journal britannique. Et pour cause, la limite n’est pas si facile à placer.

Cinquante nuances de nudité

En septembre 2016 par exemple, Facebook avait été pointé du doigt pour avoir censuré la photo «La petite fille brûlée au Napalm», document historique témoignant de la violence de la guerre du Viêt Nam. Pour éviter un nouveau cas du genre, le réseau social a pris de nouvelles mesures.

Il est ainsi désormais possible de poster «des images de nudité adulte dans le contexte de l’Holocauste». En revanche, les images de l’Holocauste représentant des enfants nus seront retirées si les utilisateurs s’en plaignent, affirment les documents que le Guardian s’est procuré. Autre nouveauté, Facebook tolère les photos de «bébés nus, si jeunes qu’ils ne peuvent manifestement pas tenir debout, à moins que la photo ne soit un gros plan des parties génitales du bébé».

«Je vais te baiser», d'accord, mais pas «dans une cave»

Par ailleurs, ces documents révèlent que Facebook a également pris des mesures pour lutter contre les contenus sexuels écrits. Et pour savoir quel contenu est à censurer, le réseau social se base sur les détails du texte en cours de modération. Ainsi, le document stipule qu’il est tout à fait autorisé d’écrire une phrase aussi distinguée que «I’m gonna fuck you» («Je vais te baiser»), mais sans ajouter trop de précision. Ainsi, «je vais te baiser dans une cave» ne passera pas l’épreuve de la censure.

Le document précise que cette règle vaut pour plusieurs phrase-types de cette grossièreté, telles que «I’m gonna eat that pussy» («je vais manger cette chatte») ou encore «Hello ladies, wanna suck my cock», qu’on pourrait traduire par un non moins vulgaire «Salut les filles, vous sucez ?».

Des modérateurs perdus

Bref, les modérateurs sont perdus. Globalement, «la nudité artisanale et numérique» est permise, mais pas «l’activité sexuelle numérique». Mais il est parfois difficile de distinguer les deux. A titre d’exemple, une œuvre d’art présentant une femme seins nus, chevauchant un pénis géant en érection, avait été acceptée à la modération, stipulent les documents de Facebook.

«Nous autorisons des expressions générales du désir, mais nous n’autorisons pas les détails sexuellement explicites», tente de résumer Facebook dans les documents concernant les bonnes pratiques de modération. Une règle qui reste difficile à appliquer.

«Ce sont des domaines complexes, mais nous sommes déterminés à travailler correctement» pour lutter contre la prolifération de ces contenus, a indiqué la responsable de la gestion des politiques de Facebook, Monika Bickert. « Nous examinons et améliorons constamment nos politiques », a-t-elle précisé.

À suivre aussi

Ailleurs sur le web

Dernières actualités