On a infiltré l’équipe de modération de contenu de xHamster

Avertissement : Cet article contient des descriptions explicites de violences sexuelles.

Nous avons créé « Holger », un faux utilisateur de xHamster, pour infiltrer l'équipe de modération de contenu et observer son fonctionnement interne. Holger se retrouve dans une équipe de plus de 100 travailleurs bénévoles appelée le « Reviewers Club », qui exerce un contrôle partiel sur les photos qui restent en ligne et celles qui sont retirées. Ces décisions ont un impact sur des millions de personnes : xHamster est actuellement le 22e site web le plus visité au monde, devant eBay. Tout le monde peut publier anonymement des photos, des vidéos et des nouvelles érotiques sur la plateforme.

Doté d'un manuel de 480 mots expliquant quelles images sont autorisées et lesquelles ne le sont pas, le Club analyse des milliers de nouvelles photos chaque jour. Pour des raisons que xHamster a refusé de partager, des employés rémunérés sont maintenant chargés de vérifier les vidéos.

Les modérateurs font leur travail de manière anonyme sur leurs propres comptes xHamster privés et xHamster ne les connaît que par leur nom d'utilisateur. Ce qui est pratique pour nos recherches : personne ne suspecte que des journalistes de VICE sont derrière le compte de Holger.

Nous passons au crible une multitude de contenus pendant plusieurs semaines, en étudiant les règles internes de la plateforme et en discutant avec les autres membres de l'équipe. xHamster demande expressément aux modérateurs de passer au crible les contenus sur lesquels ils ont des doutes juridiques considérables. S'ils pensent que quelque chose doit être retiré, ils doivent être sûrs à 100 % que ce contenu viole les règles (souvent douteuses) de xHamster.

Les photos de mineurs présumés, manifestement illégales dans de nombreux pays, sont examinées dans le cadre d'un processus qui est, au mieux, incomplet. Les images qui semblent être diffusées sans consentement sont également passées au crible. En fait, nos recherches montrent à quel point xHamster semble peu investir dans la protection des victimes contre la violence sexuelle et la violence numérique, comme le revenge porn. Les modérateurs ne reçoivent ni argent, ni formation individuelle et très peu de soutien de la part des administrateurs de la plateforme.

Nous étions curieux de savoir pourquoi des gens sont prêts à effectuer gratuitement cette tâche souvent pénible, alors nous avons demandé à des collègues de Holger. Niklas*, 19 ans, originaire d'Allemagne, dit qu'il souhaite simplement protéger les autres membres contre ce genre de photos. Mais selon lui, les règles ne sont pas toujours assez claires pour faire le tri dans les images.

Sans surprise, d'autres font ce travail pour satisfaire un intérêt personnel. Bryan*, qui travaille comme concierge à Londres, est bénévole depuis quelques semaines seulement. xHamster est son site porno préféré et il y a passé d'innombrables heures. « Je suis accro au porno et au sexe, dit-il. Je voulais expérimenter quelque chose de nouveau. »

Son collègue Luke*, 20 ans, originaire de Singapour, a également rejoint l'équipe parce qu'il pensait que cela lui donnerait certains « privilèges », comme l'accès à des profils et des contenus privés. Sur son compte, on trouve des vidéos comme Hot Teen Shower 4 et Changing room voyeur. Dans sa biographie, il demande si quelqu'un connaît la femme qui figure sur sa photo de profil et où il peut trouver les vidéos de cette dernière.

Nous avons envoyé 67 questions par e-mail à xHamster et avons reçu des réponses très brèves et très vagues. « Nous ne pouvons pas entrer dans les détails de notre système de vérification interne pour un certain nombre de raisons », nous a écrit Alex Hawkins, vice-président de xHamster, en faisant valoir que cela pourrait donner aux gens des idées sur la façon de contourner le système. « Mais soyez rassurés : les contrôles et les vérifications existent », affirme-t-il, sans aborder les problèmes que nous avons identifiés lors de ces contrôles et vérifications.

Dans ses conditions générales, xHamster brosse un tableau idyllique de la pornographie en ligne. L’accord utilisateur indique expressément que : « Vous avez l’autorisation écrite et/ou la permission d’utiliser le nom ou l’image de toute personne identifiable dans vos contenus. » Quant à savoir si cette autorisation écrite leur sera demandée à un moment ou un autre, c'est une autre question. Outre le matériel protégé par le droit d'auteur, il est interdit de publier du « contenu illégal, harcelant, nuisible, menaçant, abusif, diffamatoire, obscène, calomnieux, haineux ou racial ». Et la plateforme de préciser en majuscules et en gras : « NOUS AVONS UNE POLITIQUE DE TOLÉRANCE ZÉRO POUR LE MATÉRIEL A CARACTÈRE PÉDOPORNOGRAPHIQUE. »

Pour intégrer le Reviewers Club, il faut deux choses : de la patience et des nudes. Les utilisateurs peuvent s'inscrire par mail, après avoir passé 200 jours ou plus sur la plateforme. Ensuite, du moins dans le cas de Holger, vous devez avoir téléchargé votre propre contenu sur la plateforme. Pour réussir ce test, nous avons demandé à une travailleuse du sexe de participer à nos recherches et elle a accepté de fournir des photos d’elle nue pour le compte de Holger. À l'été 2020, Holger a reçu son invitation officielle.

Holger a d'abord dû lire les règles de modération, un « manuel » de 480 mots et 38 photos d'exemple. Les modérateurs communiquent entre eux via le profil d'un compte xHamster appelé « RClub », qui compte 130 amis.

Après s'être connecté à xHamster, Holger a pu accéder à l’interface web permettant de vérifier les derniers téléchargements en deux clics seulement. Comme dans un diaporama, chaque photo apparaît sur un fond noir. Les modérateurs doivent examiner attentivement chaque photo avant d'appuyer sur l'un des 11 boutons proposés.

Sept boutons sont destinés à la suppression : par exemple, s'il y a une infraction au droit d'auteur ou un mineur dans l'image. Une photo doit également être supprimée si elle met en scène des animaux ou des excréments. Si vous ne savez pas quoi faire avec une photo, vous cliquez sur « Ignorer » et un autre collègue s’en occupe.

Une photo n'est supprimée qu'une fois qu'elle a été signalée par plusieurs modérateurs. Si la majorité des autres modérateurs ont un avis différent, la photo reste en ligne et une erreur est enregistrée dans les statistiques personnelles de Holger. Selon le manuel d'un ancien modérateur, toute personne qui classe incorrectement plus de 15 % des photos perdra définitivement sa place dans le club. xHamster n’a pas voulu nous dire si cette règle est toujours appliquée.

Ils ne disent pas non plus combien de modérateurs doivent signaler une même photo pour qu'elle soit supprimée. Selon Hawkins, les rapports des modérateurs sont à nouveau vérifiés en interne. Il reste à voir sur quels critères se base cette vérification.

Pour Holger, la tâche est plus difficile que prévu. Un physique mince, des traits enfantins : comment peut-on juger, à partir d’une seule photo, si une personne a 16, 18 ou 23 ans ? Le manuel n’est pas d'une grande aide sur la question : « L'âge légal de la personne sur la photo est discutable, avec une forte probabilité qu'elle ait moins de 18 ans. Cherchez des détails qui vous aideront à déterminer s'il s'agit d'une photo de mineur ou non. » En d'autres termes, il est demandé à Holger de supprimer une image lorsque la probabilité qu’il s’agisse d'un mineur est « élevée » mais pas « moyenne ».

Holger demande à ses collègues comment ils prennent ces décisions difficiles. On lui répond : « Le manuel te dit ce qui n'est pas autorisé, donc si ce n'est pas mentionné dans le manuel, c’est que ça passe. » Un autre écrit : « Mec, il est impossible de savoir qui est mineur. »

Malgré cette tâche difficile pour les modérateurs, la plateforme n'a pas voulu nous dire quelles mesures supplémentaires elle prend pour vérifier son contenu. Au lieu de cela, Hawkins nous a fait savoir que l'équipe de support de xHamster est disponible toute la journée, et que les contenus marqués comme problématiques ne sont pas publiés sur la plateforme. Et si un contenu viole les conditions d'utilisation, il est retiré. Il n’a pas voulu nous en dire davantage sur le processus.

Une phrase du manuel rend le travail de ces évaluateurs amateurs particulièrement difficile. « Ne retirez aucun contenu si vous n'êtes pas à 100 % sûr qu'il est illégal. » Cette super règle encourage les modérateurs à écarter de nombreuses préoccupations, et signifie techniquement que Holgers doit appuyer sur « Ignorer » même lorsqu'il a des soupçons sur le contenu. En cliquant sur « Autre », il peut au moins fournir une justification écrite des raisons pour lesquelles il considère qu'une photo doit être interdite.

Autre question épineuse : celle du viol simulé. Le manuel ne traite de la violence que sous la rubrique « Autres », interdisant ce qui suit : « Sang, violence, viol, BDSM extrême, vrais pleurs, vraie pendaison. » Nous avons demandé à xHamster comment était faite la distinction entre « vrais » et faux pleurs, sans réponse.

Si vous pensez ne pas pouvoir classer une photo avec certitude, le manuel vous dit de demander à d'autres modérateurs. Le manuel ne traite pas du tout de l'exemple courant des vidéos qui semblent avoir été tournées secrètement et sans le consentement des femmes. xHamster n’a pas voulu nous dire si le « voyeurisme » non consensuel est autorisé sur la plateforme, ni pourquoi ce sujet est absent du manuel.

Les collègues de Holger semblent avoir été conseillés sur la question par les administrateurs. L'un d'entre eux écrit : « Caméra cachée, voyeur, sous la jupe, tout ça c’est OK sauf s'il y a une autre violation ». Un autre est d'accord : « Je n'aime pas ça non plus et c'est un crime ici aux États-Unis, mais l'administrateur de xHamster a dit que le voyeurisme c’est OK. »

Holger demande à un administrateur de xHamster si les utilisateurs sont effectivement invités à montrer leur autorisation écrite avant d’uploader du contenu sur le site. L'administrateur explique que les utilisateurs peuvent être contactés en cas de plainte concernant les droits d'auteur. Une telle plainte ne peut être déposée que par les détenteurs originaux des droits, de sorte que les modérateurs ne peuvent pas déposer de plainte au nom d'autres personnes.

Sur le profil du RClub, les modérateurs se plaignent souvent du manque de soutien administratif de xHamster. La discussion du 23 septembre est particulièrement émouvante. « J'ai demandé un manuel neuf, mis à jour et exhaustif un tas de fois… aucune réponse de la part des administrateurs », écrit l'un d'entre eux. Un autre répond : « VOUS NOUS ENTENDEZ, LES ADMINS ???? OU… vous êtes trop occupés à collecter vos chèques de paie ? Bougez vos culs paresseux et faites quelque chose ! »

Selon le vice-président de xHamster, Alex Hawkins, les administrateurs seraient « très intéressés d'entendre tout ce qui concerne les problèmes auxquels sont confrontés les modérateurs et de voir comment notre service peut être amélioré ». Plus tard, le 23 septembre, un administrateur de xHamster s'est adressé au RClub : « Nous sommes prêts à prendre en considération vos idées et vos suggestions, veuillez nous les envoyer. » Il est trop tôt pour dire si Holger a été témoin d'un soulèvement réussi des modérateurs ce jour-là, mais nous l’espérons.

*Les noms ont été modifiés.

VICE France est sur Twitter, Instagram, Facebook et sur Flipboard.
VICE Belgique est sur Instagram et Facebook.