Des vidéos visionnées des milliers de fois sur Facebook vantent les mérites de produits amincissants ou contre le diabète en exploitant l’image de présentateurs télé vedettes des chaînes américaines comme CBS ou CNN. Mais ces vidéos sont entièrement fabriquées par des logiciels d’intelligence artificielle (IA). Les «deepfakes», ces manipulations numériques de plus en plus fréquentes et réalistes, viennent alors compromettre la réputation des médias traditionnels. Certains présentateurs et journalistes dont l’identité a été usurpée ont directement réagi à la diffusion de ces vidéos truquées sur les réseaux. «Je n’ai jamais entendu parler de — ou utilisé — ce produit ! Ne vous laissez pas berner par ces clips réalisés par une IA», a déclaré la présentatrice de CBS Gayle King sur sa page Instagram en octobre. D’autres vidéos utilisent et déforment même les propos du milliardaire et patron de Tesla, Elon Musk, à des fins commerciales. Ces «deepfakes», encensant toutes sortes de produits et plans d’investissement douteux, renvoient souvent à des plateformes d’e-commerce et sites éphémères, qui disparaissent quelques jours à peine après leur diffusion sur les réseaux. Depuis 2020, Meta — maison mère de Facebook et Instagram — a interdit la diffusion de ces vidéos sur ses plateformes, à l’exception de parodies et certains contenus satiriques.
Clone vocal : «Il y a une recrudescence de ce type de vidéos utilisant un échantillon sonore d’à peine deux minutes et reproduisant la voix de quelqu’un sur une toute nouvelle séquence fictive, avec des mouvements de bouche synchronisés», explique Hany Farid, professeur spécialisé dans le numérique à l’université de Berkeley en Californie. Les personnalités de l’audiovisuel, du fait de leur constante présence à l’écran, sont des cibles faciles pour entraîner les logiciels d’intelligence artificielle. Pour Andrea Hickerson, doyenne de la faculté de journalisme de l’université du Mississippi, il s’agit d’une tendance inquiétante car le public a créé un lien de familiarité avec ces personnalités publiques, dont l’identité a été usurpée. «C’est vraiment dangereux parce que les gens ne s’attendent pas à ce que la désinformation soit incarnée d’une telle manière», a-t-elle. Le contenu est alors présenté «comme un média traditionnel».
«Crise de confiance» : Les contenus manipulés par l’IA occupent aussi une place grandissante dans les escroqueries financières, qui ont coûté quelque 3.8 milliards de dollars aux Américains en 2022, d’après les calculs de l’autorité américaine de la concurrence (FTC). Ces arnaques auraient ciblé des personnes dans plusieurs pays, y compris au Canada et en Australie, et ont coûté à certaines personnes des dizaines, voire des centaines, de milliers de dollars. «Les arnaques deviennent de plus en plus complexes car des criminels combinent des méthodes de fraude traditionnelles avec des escroqueries impliquant des crypto-monnaies et des programmes d’intelligence artificielle», a déclaré l’avocat Chase Carlson dans un billet de blog publié en début d’année. Les Américains sont aussi de plus en plus inquiets par l’utilisation de l’IA, en particulier en matière politique. Plus de 50% des Américains s’attendent à ce que les contre-vérités produites par l’IA aient des conséquences sur la présidentielle de 2024, selon un sondage publié en septembre par le média Axios et Morning Consult, un cabinet de recherche économique.
