Entre applications photo qui déshabillent numériquement les femmes, messages sexualisés mettant en scène des filles nées de l’intelligence artificielle et images manipulées en vue d’un racket de «sextorsion», l’hypertrucage (deepfake) pornographique est en plein essor, prenant de court les législateurs. La propagation de ces contenus altérés par l’IA a dépassé les efforts américains et européens visant à réglementer ce jeune domaine technologique. Plusieurs photographies, fausses et perfectionnées, sont devenues virales ces derniers mois. L’une, prêtant à sourire, montrait le pape François en «doudoune», une énorme veste blanche rembourrée de duvet. L’autre, plus sérieuse, avait soi-disant immortalisé une arrestation de l’ancien président des Etats-Unis Donald Trump. Mais bien plus répandue est l’utilisation de ces algorithmes pour générer des contenus pornographiques, à l’insu des intéressés ciblés, dont les vies en sont parfois détruites, estiment des experts. Et les femmes en sont les 1ères victimes. «L’essor du porno généré par l’IA normalise l’utilisation de l’image ou de la ressemblance d’une femme sans son consentement», souligne Sophie Maddocks, chercheuse à l’université de Pennsylvanie qui suit les abus sexuels liés à l’image. QTCinderella, une streameuse américaine de Twitch, l’a appris à ses dépens : elle a raconté dans une vidéo avoir été harcelée après l’utilisation pornographique de son image en déplorant, en larmes, «l’exploitation et l’objectivation constantes» des femmes. Car ces hypertrucages ou «faux en profondeur» peuvent ruiner une réputation, servir à des actes d’intimidation ou de harcèlement. Ils illustrent la menace de la désinformation par l’IA. Selon une étude réalisée en 2019 par la société néerlandaise Sensity, spécialisée dans l’IA, 96% des fausses vidéos en ligne sont de la pornographie non consensuelle et la plupart d’entre elles représentent des femmes : des célébrités comme la chanteuse Taylor Swift et l’actrice Emma Watson, mais aussi énormément de femmes qui n’occupent pas le premier plan médiatique. Les médias américains et européens regorgent de témoignages de femmes universitaires ou militantes qui ont été choquées de découvrir leur visage dans du deepfake porno. «Le fantasme sexuel, très privé, développé autrefois dans l’imaginaire d’une personne, est maintenant transféré à la technologie et aux créateurs de contenu dans le monde réel», résume Roberta Duffield, directrice de l’intelligence chez Blackbird.AI. «La facilité d’accès et le manque de surveillance – ainsi que la professionnalisation croissante de l’industrie – ancrent ces technologies dans de nouvelles formes d’exploitation et d’affaiblissement des femmes», pointe-t-elle encore. Parmi les nouveaux générateurs de texte-art, on trouve des applications gratuites qui peuvent créer des «filles IA hyperréelles» – des avatars à partir de photos réelles, que l’on peut personnaliser en demandant «peau foncée» ou «ceinture de cuisses». Les avancées technologiques ont donné naissance à ce que Roberta Duffield appelle une «industrie artisanale en expansion» autour du porno généré par l’IA, dont de nombreux acteurs acceptent de générer du contenu – payant – mettant en scène la personne choisie par le client. Le mois dernier, le FBI a mis en garde contre les chantages aux hypertrucages sexuels, fabriqués à partir d’images diffusées sur les réseaux sociaux et utilisés pour extorquer de l’argent aux victimes ou à leur famille, ces victimes pouvant être des enfants. Face à cette prolifération d’outils d’IA, la réglementation est dépassée. «La loi doit rattraper son retard», professe Dan Purcell, DG et fondateur de la société Ceartas, spécialisée dans la protection des marques. «Il ne s’agit pas d’un coin sombre de l’internet où ces images sont créées et partagées. C’est juste sous notre nez», dit-il, en prônant des lois internationales harmonisées.
