La justice brésilienne et deux agences nationales ont ordonné mercredi au réseau social X de «mettre en oeuvre immédiatement» des mesures «pour empêcher» la génération d’images à caractère sexuel par son outil d’intelligence artificielle (IA) Grok, sous peine de poursuites et d’amendes.

X doit «mettre en oeuvre immédiatement les mesures appropriées pour empêcher la production, à l’aide de Grok, de contenus sexualisés ou érotisés mettant en scène des enfants et des adolescents, ainsi que des adultes qui n’ont pas donné leur consentement», ont indiqué le procureur général du Brésil, l’Agence nationale de protection des données (ANPD) et le Bureau national des droits des consommateurs (Senacon).

Les agences ont donné cinq jours à la plateforme du milliardaire Elon Musk pour se conformer à cet ordre, sous peine de poursuites judiciaires et d’amendes. X a affirmé avoir supprimé des milliers de publications et suspendu des centaines de comptes après que le Brésil a émis un avertissement le mois dernier, selon les autorités brésiliennes.

Mais les utilisateurs de Grok sont toujours en mesure de générer des images à caractère sexuel, ont-elles ajouté, critiquant X pour «son manque de transparence dans sa réponse». Fin 2025 et début 2026, le robot conversationnel répondait par des photos générées par IA aux messages d’utilisateurs lui demandant de dénuder ou «mettre en bikini» des célébrités mais aussi des personnes lambdas, en grande majorité des femmes. Face au tollé soulevé par la prolifération de ces images, des procédures ont été lancées par la France, le Royaume-Uni ou l’Union européenne.

L’accès à X a même été suspendu ou bloqué par plusieurs Etats d’Asie du Sud-Est (Malaisie, Indonésie et Philippines), avant d’être rétabli.

La plateforme a finalement annoncé bloquer mi-janvier la génération d’images dénudées de personnes réelles «au sein des juridictions où cela est illégal», après avoir restreint dans un premier temps cette possibilité aux utilisateurs payants. Mais la mise en oeuvre effective de ce blocage reste floue.

Selon une étude du CCDH, une ONG qui dénonce fréquemment les pratiques du réseau X, Grok a généré quelque trois millions d’images sexualisées de femmes et d’enfants sur une période de onze jours seulement, soit 190 images par minute en moyenne.

En 2024, l’accès à X avait été temporairement suspendu par le Tribunal suprême fédéral du Brésil pour non-respect de décisions liées à la lutte contre la désinformation.