OpenAI a reconnu vendredi que ses outils d’intelligence artificielle (IA) avaient mis en ligne 53 images envoyées sur ChatGPT par des internautes, un nouvel incident qui touche cette fois des données de ses propres utilisateurs. Le géant de l’IA de San Francisco a aussi indiqué vendredi, confirmant des informations du New York Times, que ses outils avaient consulté des sites d’agences fédérales américaines, en affirmant n’y avoir récupéré que des informations publiques. Les 53 images, elles, ont été publiées par erreur sur des sites d’hébergement, à des adresses qui n’étaient pas rendues publiques, selon OpenAI, et sont en cours de retrait. Elles provenaient de comptes ayant autorisé l’utilisation de leurs données pour améliorer les modèles d’OpenAI. Ces données étaient passées avant usage par un filtre de confidentialité, et l’entreprise affirme ne plus pouvoir les rattacher à l’utilisateur d’origine. OpenAI ne détaille pas si ces images montraient des personnes identifiables ou des données sensibles. Interrogée, l’entreprise n’a pas donné de précisions. La diffusion de ces images a été provoquée par des agents IA, des logiciels bâtis sur un modèle d’IA et capables d’enchaîner seuls une série de tâches. Selon OpenAI, des agents utilisés pour ses recherches ont transmis à des services extérieurs des données d’entraînement, qui pour la plupart ne provenaient pas d’utilisateurs. Ces transmissions ont eu lieu avant qu’elle ne renforce la sécurité de son environnement de recherche, en août. L’entreprise dit passer au crible l’activité passée de ses agents, un examen qui « prendra des mois ». « Nous n’avons pas été aussi rapides que nous l’aurions souhaité », a reconnu vendredi sur X son patron, Sam Altman, invoquant le volume colossal de données à analyser. « La plupart des activités examinées jusqu’ici relevaient de tâches de recherche courantes, comme l’accès à des contenus publics sur Internet pour répondre à des questions », a indiqué un porte-parole d’OpenAI. « Certaines ont concerné des sites gouvernementaux, parce que nos modèles se tournent souvent vers eux comme étant des sources d’information publique faisant autorité. » L’entreprise a ainsi confirmé que ses modèles avaient consulté des informations publiques sur des sites de la SEC, le gendarme américain de la Bourse, avant d’en publier une partie sur une autre page internet. Elle dit n’avoir trouvé aucun accès à des informations non publiques.




































