Les tournages d’El Paso et de Dayton montrent comment la désinformation se propage sur les applications de messagerie

Cela devient de plus en plus difficile pour nous, en particulier jusqu’en 2020. »

Juste après le tournage d’El Paso, une vidéo d’un jeune homme à lunettes conduisant et rappant à Kendrick Lamar a commencé à se diffuser sur Telegram. Il a été publié par Gavin McInnes, le fondateur des Proud Boys, qui a été banni des principales plateformes de médias sociaux pour rhétorique violente, avec cette légende: This just in: fan de rap tire Walmart à El Paso. Le rap est-il la musique du diable? En une minute, il a été republié par Milo Yiannopoulos, qui a également été expulsé des principaux réseaux sociaux, avec les mots que Kendrick Lamar a quelques questions à répondre. » Mais le chauffeur, un homme de 26 ans originaire de l’État de New York, n’avait rien à voir avec le tournage, et la vidéo elle-même avait plusieurs années.

Collectivement, les deux messages, qui restent en ligne, ont été consultés par environ 7 500 personnes selon les statistiques de Telegram (bien qu’il soit possible que le public des deux hommes se chevauche). Pourtant, il n’y a aucun moyen de dire s’il s’est étendu à des groupes privés sur la plate-forme ou s’il a fait le saut de Telegram vers d’autres espaces privés. La vidéo met en évidence un problème émergent pour la désinformation en ligne: alors que les principales plateformes sociales comme Facebook, YouTube et Twitter ont pris des mesures pour interdire aux utilisateurs de diffuser des messages faux, haineux ou violents, les mauvais acteurs se sont tournés vers des espaces privés où leurs communications sont plus difficiles traquer.

Après les tirs d’El Paso et de Dayton, la désinformation s’est répandue dans des espaces que le public n’a pas pu voir. Dans les discussions de groupe, les textes copiés-collés sur les tireurs actifs ont sauté d’un groupe à l’autre. Sur Telegram, des personnalités bannies de Twitter, Facebook et YouTube ont trouvé un refuge sûr et ont continué à induire leurs abonnés en erreur. Certaines de ces informations ont ensuite été capturées et publiées dans des groupes Facebook et des histoires Instagram ou Snapchat. Rien de tout cela ne pouvait être efficacement contré par des vérificateurs des faits.

La vidéo publiée par McInnes et Yiannopoulos n’avait rien à voir avec le tournage d’El Paso. Il a été extrait de YouTube, où il avait été initialement publié en 2015 par Cody Dzintars. Dzintars fait généralement des vidéos commentant la musique mais n’a rien téléchargé depuis des mois. Yiannopoulos n’a pas commenté les questions sur la désinformation, appelant plutôt le journaliste un con idiot. » Il a ensuite signalé à Telegram que la vidéo n’était pas légitime. » Ni McInnes ni Telegram n’ont répondu aux demandes de commentaires.

Je voulais clarifier que je ne suis PAS le tireur d’El Paso et que je ne suis aucun programme dirigé par Milo ou Gavin », a déclaré Dzintars à BuzzFeed News lorsqu’il a été informé de la vidéo par e-mail. Heureusement, c’était sur cette autre application. Je ne pense pas qu’ils aient accès à des plateformes comme Twitter et Insta, mais s’ils l’avaient posté sur leurs Twitters, cela aurait pu être une tout autre histoire », a-t-il déclaré.

Le flux de désinformation à travers ces espaces privés est à la fois plus difficile à suivre et à contrer. Il n’y a absolument aucune métadonnée. Il n’y a rien sur quoi revenir, pour pouvoir le retrouver », a déclaré Claire Wardle, qui dirige First Draft News, une organisation à but non lucratif dédiée à la vérification des faits dans le monde entier. Wardle a supervisé des projets de vérification des faits en se concentrant sur WhatsApp en Inde et au Brésil.

La façon dont les groupes WhatsApp ou Facebook Messenger fonctionnent, ce sont généralement de plus petits groupes de personnes qui se connaissent et se font confiance », a-t-elle déclaré.

Bien que la nature plus petite de ces groupes limite leur portée, cela signifie également que si les gens voient de la désinformation dans leurs conversations, ils peuvent être plus susceptibles de leur faire confiance. Pendant la fusillade d’El Paso, des messages sur plusieurs hommes armés ont été publiés dans des discussions de groupe selon des captures d’écran envoyées à BuzzFeed News. Certains ont également capturé ces messages et les ont publiés sur d’autres espaces en ligne semi-privés.

Une image faussement avertissant de plusieurs tireurs a été partagée plus de 500 fois après avoir été taguée avec la fonction de réponse aux crises de Facebook. Plusieurs ont également été publiés sur Instagram et Snapchat, où il n’y a aucun moyen de dire si la propagation de la désinformation sur ces plateformes était importante.

Wardle dit que l’impossibilité d’évaluer la distance parcourue par un canular fait partie de ce qui rend la désinformation privée si difficile. Le manque de statistiques rend plus difficile de savoir quand quelque chose doit être signalé et démystifié, ou ignoré par crainte d’amplifier quelque chose que peu de gens ont vu.

Cela devient de plus en plus difficile pour nous, en particulier en 2020, alors qu’il n’y a tout simplement aucun moyen de comprendre à quel point quelque chose est répandu », a-t-elle déclaré.

Les mauvais acteurs qui cherchent à diffuser leur message sont habiles à tirer parti des vulnérabilités des applications de messagerie. L’incapacité à retracer un canular jusqu’à ses origines signifie qu’ils peuvent fonctionner en toute impunité. Même sur une application comme Telegram, qui a des capacités de diffusion, les utilisateurs peuvent masquer la liste de leurs abonnés et leur propre identité. Alors que les chercheurs sur l’extrémisme s’inquiètent depuis longtemps du déplacement d’influenceurs d’extrême droite vers Telegram, Wardle se demande maintenant si les rédactions, les politiciens et les universitaires sont prêts à faire face à la désinformation basée sur la messagerie à la veille d’une élection présidentielle.

Il y a juste eu une chose tête dans le sable, comme: « Oh, les gens en Amérique n’utilisent pas cela », a déclaré Wardle. Je pense que ce que nous devons reconnaître, c’est qu’ils le font, et nous sommes complètement mal préparés. »

Je pense que c’est un véritable réveil », a déclaré Wardle. Ces informations augmentent, mais elles se déplacent dans des espaces que nous ne pouvons tout simplement pas surveiller. »