La Commission nationale de l’informatique et des libertés (Cnil) a présenté vendredi des pistes de réflexion sur les enjeux éthiques des algorithmes et de l’intelligence artificielle, appelant notamment toutes les parties prenantes, des programmeurs aux utilisateurs, à la vigilance face à ces «objets numériques nouveaux». Le sous-titre de son rapport, déjà, est évocateur, alors que les algorithmes recommandent des livres, attribuent des places en facultés ou s’invitent dans le débat électoral: «Comment permettre à l’homme de garder la main?». Le document présenté par la Cnil est le produit d’un vaste débat participatif organisé entre janvier et octobre, la loi pour une République numérique de 2016 lui ayant donné la mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l’évolution des technologies numériques. Pour son 1er opus, la Commission s’est emparée des algorithmes, omniprésents dans l’univers numérique, parce qu’ils suscitent «un réel intérêt du grand public, et aussi un malaise du fait de l’incompréhension autour de cet objet technique», a indiqué sa présidente Isabelle Falque-Pierrotin. «C’est un bon sujet pour réfléchir sur les questions éthiques (car) c’est un sujet transversal dans l’univers numérique», a-t-elle relevé. La Cnil a recensé «six problématiques essentielles». Un risque de dilution des responsabilités, tout d’abord: faut-il laisser décider ces machines qui sont a priori là pour nous aider? A qui la faute en cas d’erreur? Autre sujet d’inquiétude, «la propension des algorithmes et de l’intelligence artificielle à générer des biais» peut créer des discriminations et exclure des populations entières, à l’insu même de leurs concepteurs. Enfin, la personnalisation croissante par les navigateurs internet, les moteurs de recherche et les réseaux sociaux, qui a pour but d’offrir des réponses et des contenus plus pertinents, conduit à un «enfermement algorithmique», qui met le pluralisme en danger. Il faut «réinventer un équilibre» entre la grande quantité de données nécessaires pour «nourrir» l’intelligence artificielle et les exigences de la législation, qui veut limiter les mégafichiers et promeut une minimisation de la collecte de ces données. Corolaire, il faut s’assurer que les données utilisées sont de bonne qualité, en quantité suffisante et pertinentes. D’où aussi le besoin d’une attitude critique, de «ne pas nourrir une confiance excessive dans la machine». Se pose enfin le problème des robots de plus en plus autonomes, et auxquels on peut s’attacher. «Deux principes se sont dégagés, à travers ce travail, qui nous paraissent d’une généralité suffisante pour s’appliquer à l’infrastructure numérique qui est derrière nos vies, derrière nos usages», a relevé la patronne de la Cnil. Le 1er, «substantiel», est le principe de loyauté: l’algorithme ne doit pas trahir l’utilisateur, ni la communauté.Le 2nd est un principe de vigilance: «On doit constamment créer du doute au niveau de l’algorithme; il doit sans cesse être remis en question» car il est extrêmement complexe et en perpétuelle mutation, insiste Mme Falque-Pierrotin. Elle appelle tout le monde «à rester éveillé, à avoir une sorte de doute méthodique systématique par rapport à l’utilisation de ces objets extrêmement efficaces, mais qui par moment produisent des résultats sur lesquels il faut être extrêmement vigilant». La Cnil avance six recommandations: former à l’éthique tous les maillons de la «chaîne algorithmique» – y compris les citoyens -, rendre les systèmes algorithmiques plus compréhensibles en renforçant les droits existants, travailler leur design au service de la liberté humaine, mettre sur pied une «plateforme nationale d’audit des algorithmes», encourager la recherche sur l’intelligence artificielle éthique et enfin «renforcer la fonction éthique au sein des entreprises». Le 1er destinataire est Cédric Villani, mathématicien et député LREM de l’Essonne, qui doit rendre fin janvier un rapport sur l’intelligence artificielle.
