Les vidéos sont d’un réalisme saisissant : elles montrent des femmes en bikini menant des interviews dans la rue et suscitant des commentaires obscènes, mais elles sont fausses, générées par l’IA pour inonder les réseaux sociaux de contenus sexistes. Ces contenus médiocres, créés en masse à l’aide d’outils d’Intelligence Artificielle bas de gamme, noient souvent les publications authentiques et brouillent la frontière entre fiction et réalité. Cette tendance a donné naissance à une industrie artisanale d’influenceurs qui produisent à la chaîne des contenus sexualisés, motivés par les programmes d’incitation des plateformes qui récompensent financièrement les contenus viraux. De nombreux clips générés par l’IA, truffés d’humour grivois, prétendent montrer des intervieweuses court vêtues dans les rues d’Inde ou du Royaume-Uni. Des vérificateurs ont trouvé des centaines de vidéos de ce type sur Instagram, dont beaucoup en hindi, qui montrent des hommes interrogés lançant avec désinvolture des remarques misogynes et sexistes, parfois même attrapant les femmes, tandis qu’une foule d’hommes les regardent bouche bée ou rient en arrière-plan. Ces vidéos ont été visionnées des dizaines de millions de fois. Certaines ont même monétisé cette popularité en faisant la promotion d’une application de messagerie pour adultes permettant de «se faire de nouvelles amies». Ces vidéos ont été créées à l’aide du générateur d’IA Veo 3 de Google, connu pour ses images hyperréalistes, a indiqué la société américaine de cybersécurité GetReal Security dans une analyse.

«Préjudice sexiste» : «La misogynie qui restait généralement dissimulée dans les discussions et les groupes de vestiaires est désormais déguisée en images générées par l’IA», analyse Nirali Bhatia, cyberpsychologue basée en Inde. «Cela fait partie des préjudices sexistes induits par l’IA, cela alimente le sexisme». Les réseaux sont désormais de plus en plus submergés par des mèmes, des vidéos et des images générés par l’IA qui rivalisent avec les contenus authentiques pour attirer l’attention. «C’est l’internet d’aujourd’hui», estime Emmanuelle Saliba, de GetReal Security. «Les contenus médiocres générés par l’IA et tout type de contenu non étiqueté généré par l’IA érodent lentement le peu de confiance qui subsiste dans les contenus visuels», ajoute-t-elle. Les vidéos d’un compte TikTok très suivi énumèrent de manière moqueuse ce que des «filles déchaînées» seraient prêtes à faire pour de l’argent. Les femmes sont également la cible de pièges à clics inquiétants générés par l’IA. Des vérificateurs ont suivi la diffusion virale de vidéos montrant une fausse dresseuse d’orques nommée «Jessica Radcliffe» attaquée mortellement par un orque lors d’un spectacle dans un parc aquatique. Ces images fabriquées de toutes pièces se sont propagées sur différentes plateformes, notamment TikTok, Facebook et X, suscitant l’indignation mondiale des utilisateurs qui pleuraient la mort de cette femme qu’ils croyaient réelle.