Des présentateurs télé, semblant plus vrais que nature, mais en réalité générés par de l’intelligence artificielle, ont été utilisés pour la première fois dans des vidéos de propagande, indique un cabinet d’études américain, affirmant que les acteurs y défendent des positions pro-Pékin.
Ces derniers, qui «travaillent» pour un journal télévisé fictif baptisé «Wolf News», sont en réalité des produits de l’intelligence artificielle, apparus sur les réseaux sociaux, pour assurer apparemment la promotion des intérêts du Parti communiste chinois, indique la firme américaine Graphika dans une étude.
«C’est la première fois que nous voyons une opération de soutien à un Etat avoir recours à une vidéo issue de l’intelligence artificielle mettant en scène des personnes fictives pour créer un contenu politique trompeur», a déclaré Jack Stubbs, vice-président de Graphika.
Cet hypertrucage ou «deepfake» permet notamment de remplacer dans une vidéo un visage par celui d’un autre ou de falsifier les propos d’une personnalité avec un réalisme déconcertant. Dans l’une de ces vidéos analysées par Graphika, un présentateur qui dit s’appeler Alex, critique l’inaction des Etats-Unis face à la violence des armes qui ravage ce pays. Dans une autre, une présentatrice souligne l’importance de la «coopération» entre les grandes puissances que sont la Chine et les Etats-Unis.
Les progrès dans l’intelligence artificielle ont attisé les craintes que cette technologie ne serve aussi à répandre de fausses informations et des «deepfakes», ces manipulations numériques de plus en plus réalistes, qui présentent un défi en matière de lutte contre la désinformation. Ces affirmations de Graphika, qui n’ont pas été commentées par Pékin, sont publiées quelques semaines après que le gouvernement chinois eût annoncé une nouvelle réglementation pour encadrer les «deepfakes».
L’hypertrucage présente un «danger pour la sécurité nationale et la stabilité sociale» s’il n’est pas encadré, estimait en décembre le gendarme chinois de l’internet. La réglementation impose désormais aux entreprises proposant des services d’hypertrucage en Chine d’obtenir l’identité réelle de leurs utilisateurs. Pour Graphika, les deux présentateurs de Wolf News ont très certainement été créés grâce à de la technologie fournie par la start-up londonienne Synthesia.
Cette société vend des logiciels permettant de créer des avatars «basés sur des vidéos mettant en scène de vrais acteurs», selon le site internet de cette société.
