Sexe, racisme et fausses vidéos. A Wall Street, un scandale à la banque JPMorgan Chase s’accompagne d’un torrent de fausses informations générées par l’IA, qui viennent troubler l’opinion publique. La vague d’infox a commencé à déferler fin avril après le dépôt de la plainte d’un ancien cadre de la grande banque américaine devant un tribunal de New York, abondamment couverte par la presse tabloïde. Chirayu Rana, 35 ans, accuse une ex-collègue, plus élevée dans la hiérarchie, de l’avoir harcelé sexuellement, tout en abreuvant d’injures racistes le jeune homme originaire du sous-continent indien. Les avocats de cette dernière, Lorna Hajdini, qui est restée à la banque, démentent ces accusations, tandis que JPMorgan Chase, qui affirme avoir procédé à une enquête interne, les juge sans fondement. Mais sans attendre la suite de la procédure, cette affaire plutôt inhabituelle de harcèlement femme-homme est à l’origine de fausses vidéos au contenu salace. Sur le réseau X, une vidéo ultra-réaliste générée par l’IA montre le couple, lui, grand et brun, elle, blonde et fine, en train de dîner au restaurant. Une voix off explique qu’ils sont en plein «rendez-vous galant». Sur d’autres plateformes, comme Facebook, des utilisateurs en concluent que la plainte de M. Rana est abusive, sa relation avec Mme Hadjini apparaissant «consentie». Ailleurs, un clip, circulant notamment sur Instagram, recrée les scènes censées représenter les menaces et les insultes reçues par M. Rana. Une autre vidéo diffusée sur X s’inspire carrément d’un film catastrophe: le couple court au milieu d’une ville en feu quand soudain Mme Hadjini pousse son partenaire dans les flammes. Beaucoup d’internautes déplorent ces inventions de l’IA, qui empêchent de distinguer entre réalité et fiction sur des plateformes qui ont réduit leur modération de contenu. Dans le viseur: les vraies-fausses histoires, à savoir des créations de l’IA fondées sur d’authentiques événements. «Ces vraies-fausses histoires prolifèrent grâce à l’accès généralisé aux outils d’IA qui permettent de créer facilement des contenus photo ou vidéo», note le professeur Walter Scheirer, de l’Université Notre Dame aux Etats-Unis. «Le scandale JPMorgan suscite un intérêt énorme parce que les rôles sont renversés entre l’homme et la femme. Résultat, beaucoup de gens cherchent une information qu’ils ne trouvent pas dans les canaux officiels. Et les usines à contenu, tout comme les trolls, sont bien trop contents de leur en fournir». Sans attendre un éventuel procès, Mme Hadjini se retrouve ainsi propulsée au rang de célébrité, avec en circulation des images d’elle en maillot de bain qui n’ont rien d’authentique. D’aucuns la comparent au film «Harcèlement» de 1994 et au personnage de Demi Moore qui fait des avances à un collègue masculin. La banque elle-même fait l’objet de fausses productions, comme cette capture d’écran qui prétend montrer un article d’un site d’information selon lequel un stagiaire de JPMorgan aurait été arrêté pour s’être masturbé dans le couloir d’un hôtel. Une information jamais publiée par le site en question. L’affaire illustre comment la technologie peut entamer une réputation et agir sur l’opinion publique avant même que les faits soient établis. «Cela laisse entrevoir comment l’IA va de plus en plus polluer nos fils d’actualité et le débat public sur des sujets futiles comme sur des questions importantes», s’alarme Timothy Caulfield, expert en désinformation à l’Université de l’Alberta (Canada). Ce type de contenu «peut être produit très vite et orienté de façon à exploiter nos peurs, nos intérêts et nos ressentiments», explique-t-il. «Dans ce modèle économique, tout est une question de clics. Il suffit de trouver une histoire qui fait le buzz et de l’exploiter».