Minds, la plateforme anti-Facebook, ne sait pas comment gérer ses utilisateurs néonazis

Le réseau social Minds, surnommé l’« anti-Facebook », est devenu un refuge pour les néonazis qui ont des liens avec les militants de groupes extrémistes.

Minds est un réseau social américain qui se veut « transparent » (son code est open source), pro-liberté de l’expression, et qui récompense ses utilisateurs via un système de crypto-monnaie. Nombre d’articles et de reportages dans la presse récente sur Minds, qui a été mis en ligne en 2015, se sont concentrés sur le fait que le réseau défie les plus grands réseaux sociaux, et sur son adoption de la crypto-monnaie, tout en soulignant que l’approche modérée en modération de contenus était plutôt légère. Au point qu’un nombre important de contenus liés à l’extrême-droite ont été ouvertement partagés sur la plateforme.

Ces derniers mois, les GAFA tels que Facebook et Twitter ont commencé à adopter des mesures - controversées, si ce n’est incomplètes - afin de bannir la suprématie blanche et d’éliminer les contenus créés par l’extrême-droite de leurs réseaux. Les nouveaux réseaux comme Gab (qui ressemble à Twitter, mais dont la communauté est plutôt faite d’extrémistes de droite) ont rejoint le mouvement. Minds n’est pas aussi populaire que Gab, mais ces dernières années, la communauté d’extrême-droite s’est terrée sur ce réseau.

Les sites trop peu modérés comme Minds – qui ont souvent un système et une pratique de modération bien moins rigoureux que certains gros réseaux sociaux – laissent les groupes racistes, sexistes et homophobes proliférer sur le Net, même à l’heure où les réseaux comme Facebook et Twitter les font sauter. Minds est en train de travailler à un système de modération de contenus géré par les utilisateurs, se servant d’un « système de jury » qui permet aux utilisateurs de voter sur le fait de laisser tel ou tel contenu en ligne.

Nous avons trouvé Minds en cherchant la source des empreintes digitales de groupes d’extrême-droite, comme l’Atomwaffen Division (un groupe de propagande lié à plusieurs meurtres), et le groupe européen Feuerkrieg Division, qui se gargarise d’être un groupe paramilitaire underground, et qui a ouvertement appelé à commettre des meurtres politiques. Sur Minds, des profils de personnes liés à ces groupes ont géré des comptes.

En plus de ces soi-disant groupes paramilitaires, il y a, sur Minds, des comptes liés à Patriot Front, une organisation de propagande du nationalisme blanc, associée au néonazi qui a tué Heather Heyer, en 2017, lors du rallye « Unite the Right » [« Rassembler la Droite »], à Charlottesville. Elle est également liée à la branche canadienne de Génération Identitaire, un groupe international de propagande d’extrême-droite qui a été critiqué de toutes parts, quand on a su que le terroriste responsable de l’attaque de Christchurch donnait de l’argent à l’une de leur branche européenne.

Une des stratégies adoptées par l’extrême-droite – pour maintenir un lien de communication avec les nouvelles recrues intéressées, dans le chaos des désactivations et renvois des réseaux sociaux – est de partager des adresses mail cryptées et des liens sur les différents réseaux.

Une publication sur le compte Minds géré par Feuerkrieg Division, datant du 19 mai, comprenait le lien vers le compte parallèle du groupe sur Gab et montrait ouvertement son adresse mail ProtonMail. Ce groupe est déjà surveillé par des enquêteurs anti-terroristes du consortium d’analyse du TRAC, un groupe d’analystes, et par l’ONG Counter Extremism Project (CEP).

Le compte Minds de l’Atomwaffen Division, bien qu’inactif depuis la mi-2017, a tout de même enregistré pas loin de vingt mille vues sur le site.

Au départ, quand nous l’avons contacté, Bill Ottman, le fondateur de Minds, a déclaré que le contenu néonazi sur Minds « craignait », mais que selon lui, Minds est l'endroit idéal pour entamer un discours poli avec les extrémistes, permettant de les dé-radicaliser.

Ces derniers mois, la popularité mainstream d’Ottman a augmenté grâce aux interviews qu’il a accordées à Joe Rogan sur son podcast, et au très problématique Tucker Carlson, hôte de Fox News, sur les dangers des réseaux sociaux qui peuvent empiéter sur le droit américain de la liberté d’expression.

Pour Ottman : « Ces gens sont plutôt des malades, mais il faut éviter de généraliser et, au contraire, se demander : que se passe-t-il, sur Internet, globalement ? On peut même dire qu’il est irresponsable de la part des grands réseaux de les pousser vers le darkweb. »

Dans l’ensemble, Minds a clairement pour objectif d’autoriser du contenu qui ne serait pas toléré ailleurs. Pourtant, ses règles de contenus soulignent que poster du contenu lié au terrorisme ou aux « vraies menaces » de violence, sont des offenses pouvant mener au bannissement.

Après que nous ayons partagé en public six comptes confirmés comme appartenant à des néonazis ou des groupes de propagande haineuse sur Minds – et que nous ayons souligné que la politique du site interdisait la propagation de contenu terroriste – Minds a banni les comptes de l’Atomwaffen Division pour « activité terroriste », et la Feuerkrieg Division et un autre compte néonazi pour « incitation à la violence ».

« Merci pour vos rapports et contextualisation. Nous avons pris des mesures concernant de nombreux comptes, et le reste est sous le coup d’enquêtes internes », nous a affirmé Minds.

L’un des comptes qui a sauté était à l’origine de la création d’un groupe de propagande néonazie et avait plus de 350 membres, mais la page du groupe elle-même est restée en ligne et est toujours très active.

Selon Ottman, actuellement, Minds a bien une équipe de modérateurs composée d’environ « cinq » personnes, dont le boulot est d’analyser la base de signalements et de publications qualifiées de NSFW (« Pas sûr pour le travail »), ou de bannir le compte responsable.

Sur Minds, des images contenant de l’antisémitisme, du nazisme et du néonazisme, de la propagande pro-suprématie blanche et bien plus encore, sont très clairement visibles. Mais certaines publications sont périodiquement cachées par une restriction d’âge, suggérant que seuls les adultes peuvent voir le contenu.

Sur le compte lié à la Feuerkrieg Division, avant qu'il ne soit banni, nous avons repéré une croix gammée. La publication était légèrement floutée et un message demandait au visiteur de confirmer d’être âgé de plus de 18 ans pour montrer l’image.

Dans le groupe néonazi comptant plus de 350 membres, qui n’a pas été banni, des images montrant des messages néonazis et particulièrement violents sont actuellement visibles, alors que d’autres postes sont cachés derrière des restrictions d’âge. L’un d’eux, qui semble être le doxing d’une personne qualifiée de « traître à sa race », est clairement visible. La politique de modération de contenus de Minds édicte clairement que le doxing [le partage d'informations privées en ligne, ndlr], est passible de bannissement.

Joshua Fisher-Birch, du CEP, nous a expliqué dans un mail que : « L’extrême-droite cherche toujours les failles dans les politiques de modération, surtout en ce qui concerne les contenus de propagande, ou qui encouragent la violence. La variante, c’est quand les entreprises de réseaux sociaux mettent le holà et décident qu’elles ne veulent pas promouvoir ce type de comportement. »

La semaine dernière, Minds a lancé une autre sorte de surveillance de site pour contrôler les contenus à risque, tout en continuant à promouvoir sa volonté de respecter la « liberté d’expression ». Le système permet aux utilisateurs de voter sur la pertinence de maintenir des contenus restreints, grâce à un système de jury ad hoc.

Actuellement, si l’équipe de Minds supprime un post signalé, le propriétaire du compte peut faire appel à cette décision. Quand ça arrive, douze utilisateurs sont piochés pour participer à un vote, dans un chat privé. Si 75% du jury est d’accord pour annuler la décision de l’équipe de Minds, alors l’appel est emporté. Sinon, la décision reste la même. Les utilisateurs de Minds reçoivent trois coups de strikes, à moins que l’offense soit de la catégorie « contenu passible de bannissement automatique ».

Puisque le système de jury ne permet pas aux utilisateurs de débattre de leurs contenus ou de les défendre – seule l’équipe de Minds peut juger de la défendabilité du contenu – à l’heure actuelle, le jury n’est qu’une occasion pour les utilisateurs de décider s’ils veulent continuer à être bannis ou installer une restriction d’âge sur les contenus.

L’équipe de Minds dit vouloir étendre les responsabilités du principe du jury pour que les membres de celui-ci puissent gérer les premiers signalements, ainsi que les demandes d’appel. Le site affirme aussi qu’il a développé une manière automatique de trouver les posts qui violent le règlement du site, et de trouver les signalements d’utilisateurs les plus à risques pour l’équipe de modération.

Le communiqué de presse indiquait : « Nous souhaitons respecter la liberté d’expression et notre promesse de transparence comme remède à la radicalisation, à la violence et à l’extrémisme. Notre but avec ce système de jury, c’est d’avoir un procédé plus juste et démocratique lors des reviews et de la modération des contenus, et non de devoir imposer à la communauté d’adhérer à la subjectivité d’une seule autorité centralisée, sans aucune transparence. »

Un autre élément-clé de Minds est l’utilisation de jetons de crypto-monnaie appelés Minds, que les membres peuvent gagner en allant sur le site. Les utilisateurs en obtiennent en fonction de leur contribution à Minds, les comptes qui ont le plus de vues ou qui participent le plus ont plus de jetons – ou les achètent, pour l’équivalent en crypto-monnaie de quinze centimes de dollars.

Ces jetons peuvent servir à booster la visibilité de publications sur les murs des autres, ou en tant que monnaie d’échange entre les membres : lors, par exemple, d’un accord mutuel de partage de contenus, ou pour acheter des options premium sur Minds. Ottman développe : « Un jeton vous vaudra mille extras en impression, et on les distribue de façon chronologique, en fonction de la personne qui a actualise le fil d’actualité en dernier. »

Les comptes d’extrême-droite de Minds ont déjà bénéficié de cette économie spécifiquement liée à la contribution. Dans la plupart des cas, il n’y a pas énormément d’argent en jeu, mais les jetons de Minds peuvent servir à étendre la visibilité des messages de l’extrême-droite plus rapidement que s’ils étaient organiques.

Le profil de Fuerkrieg Division avait accumulé un virement – un paiement entre membres fait pour récompenser les créateurs ou pour donner un pourboire – et cinq jetons. Sa page, pleine de messages antisémites et de propagande poussant ses suiveurs à « agir », a récolté 27 mille vues.

Un autre compte banni de Minds avait près d’un demi-million de vues et gagné près de 38 jetons, et quatre virements. L’une de ses publications montrait la caricature du lynchage d’un homme juif.

Minds peut très bien démonétiser les comptes sur le réseau, selon Ottman. « Si on peut interdire aux utilisateurs le gain [de jetons] ? En théorie, oui, c’est possible. »

Selon Ottman, ce n'est pas une proposition idéale pour Minds. En effet, si un profil se démarque des autres par son comportement particulièrement nocif, au point d’être empêché de gagner des jetons sur le site (bien qu’il puisse, vraisemblablement, les acheter par d’autres moyens), alors il serait tout simplement banni.

L’approche de Minds sur le problème est en décalage avec celle des réseaux sociaux mainstream, qui, malgré leur action lente, ont fait en sorte de diminuer la visibilité de l’extrême-droite sur leurs réseaux, notamment après l’importance du scandale public.

« Une FAQ et une politique de contenus cohérents, liés à une pratique rigoureuse et consistente sur plusieurs plateformes va aider à réduire les actions de ces agents menaçants et violents », avance Fisher-Birch.

La tactique de Minds semble, en tout cas d’une certaine façon, être à double tranchant. D’après un rapport de l’AFP, plus de cents mille Vietnamiens se sont créés des comptes Minds après que le gouvernement local a voté une loi pour réduire la communication en ligne entre les contestataires du pouvoir, et les citoyens ont eu peur que Facebook ne mette en place des règles visant à éliminer tout discours politique en désaccord avec la vision politique du gouvernement vietnamien.

Quand bien même, il est évident que c’est cette même tactique qui a fait de Minds un refuge, facilitant une connexion et le maintien de contact entre les suprémacistes blancs, les néonazis et les autres organisations – qui se disent armées et prêtes à sévir - liées à ces mouvances.

VICE France est aussi sur Twitter, Instagram, Facebook et sur Flipboard.