Comment la vidéo du carnage de Christchurch a-t-elle pu être diffusée si largement? Et surtout comment faire pour que cela ne se reproduise pas? L’incapacité des réseaux sociaux à filtrer les contenus violents nourrit depuis plus d’une semaine des appels à reprendre le contrôle sur ces plateformes tentaculaires. L’assassinat de 50 personnes dans deux mosquées néo-zélandaises a pu être diffusé en direct sur Facebook par son auteur, qui avait préparé minutieusement son acte à des fins de propagande. Largement rediffusée, la vidéo était encore visible vendredi sur certains sites et survivra probablement dans les limbes du web, notamment sur des forums de suprématistes blancs ou d’adolescents fascinés par la violence. Dans les 24 heures suivant l’attaque, Facebook explique avoir retiré 1,5 million de copies de la vidéo. Facebook comme Youtube (filiale de Google) ont depuis tenté de se justifier, mettant en avant les efforts réalisés pour éviter la propagation de ce type de contenu. Ils répètent d’abord que leur mission est à l’opposé de ces actes: elle est de «donner une voix aux gens et de les rapprocher», comme le dit souvent le fondateur de Facebook, Mark Zuckerberg. «Nos systèmes d’intelligence artificielle s’entraînent avec des données, ce qui implique le traitement de milliers d’exemples pour détecter un certain type de texte, d’image ou de vidéo», a souligné mercredi le vice-président de Facebook Guy Rosen. «Cette méthode a très bien fonctionné pour la nudité, la propagande terroriste mais aussi la violence, quand on a de nombreux exemples. Cependant, cette vidéo en particulier n’a pas éveillé l’attention de nos systèmes de détection automatique». «Cette tragédie était quasiment conçue pour devenir virale», a analysé Neal Mohan, responsable des produits chez YouTube, dans une interview au «Washington Post». «Nous avons fait des progrès, mais ça ne veut pas dire qu’il n’y a pas encore beaucoup à faire». Créés il y a moins de 15 ans, devenus hégémoniques, les réseaux sociaux tentent de résoudre un par un des problèmes liés à la liberté d’expression totale qu’ils ont permis, liés à la diffusion de propagande terroriste, de pédopornographie, de contenus volés ou d’images intimes de personnes sans leur consentement. Détenteur de données personnelles et sensibles, Facebook a notamment permis leur usage à des fins de manipulation électorale. Youtube renâcle à contrôler les vidéos complotistes. Instagram, autre réseau à succès, devient à son tour un moyen de diffusion de messages haineux. D’autres réseaux ont regretté des fuites de données massives. Avec la diffusion en direct du massacre de Christchurch, les critiques se sont multipliées et sont devenues plus fortes encore. La Première ministre néo-zélandaise JacindaArdern a notamment appelé les gouvernements du monde entier à s’attaquer au problème. Mais quelles peuvent être les solutions? «Si on veut que la modération soit efficace, il faut d’abord cesser de l’externaliser dans des pays qui n’ont pas les mêmes références culturelles», fait valoir Olivier Ertzscheid, enseignant-chercheur en sciences de l’information à l’université de Nantes. «Par ailleurs, se baser sur l’intelligence artificielle, c’est s’exposer à des risques de censure aussi graves que la dissémination (de ces contenus choquants)». Soit ces plateformes rendent transparents leurs critères pour publier ou mettre en valeur certains contenus, «soit il faut envisager leur démantèlement», ajoute le chercheur. Pour Jean Burgess, professeur à la Queensland University of Technology (Australie), «il est clair que les plateformes ont fait plus d’efforts pour protéger les droits d’auteur que pour surveiller les contenus racistes, misogynes ou suprémacistes blancs», a-t-elle souligné sur Twitter. Les plateformes jouent maintenant selon elle «au jeu de la taupe», essayant de taper sur les animaux qui sortent de leur trou. Au risque, selon elle, d’avoir toujours un temps de retard sur des groupes extrémistes cherchant à utiliser les réseaux sociaux à leur avantage.
