Les autorités doivent préciser le cadre de l’«intervention humaine» d’un fonctionnaire lorsqu’une décision des services publics est prise avec l’appui de systèmes algorithmiques ou d’intelligence artificielle (IA), réclame mercredi le Défenseur des droits (DDD), dont un rapport appelle à renforcer la «transparence» sur ce sujet. «C’est une question de confiance des usagers envers leur administration», a justifié cette autorité indépendante, qui reçoit encore peu de réclamations d’usagers.
Mais les premiers dossiers dessinent une problématique «systémique». A l’heure de «l’algorithmisation de l’administration», la part de l’intervention humaine dans les décisions qui ne sont que «partiellement automatisées» inquiète le DDD.
«Le fait qu’un agent applique de façon systématique, par exemple en appuyant sur un bouton «valider», les résultats générés par l’algorithme ou le système d’IA, sans opération intellectuelle de vérification, ne saurait être considéré comme une intervention humaine», peut-on lire dans le rapport. Il peut s’agir de démarches concernant des attributions de prestations sociales, de calculs d’impôts, ou encore d’accès à l’enseignement supérieur. «On prend acte du droit tel qu’il existe et qui dit bien que dans toute une série de cas, il peut ne pas y avoir d’intervention humaine. Mais lorsqu’il doit y avoir une intervention humaine, on recommande de préciser ce que cette intervention doit apporter. Qui intervient ? A quel moment du processus ? Pour les décisions partiellement automatisées, il faut une intervention humaine plus substantielle», explique-t-on au DDD.
«Il n’y a pas de doute sur le fait qu’ils (IA et algorithmes) sont porteurs de progrès, il n’y a pas de doute non plus qu’ils soient porteurs de risques pour les droits fondamentaux», ajoute le Défenseur des droits.
L’autorité administrative appelle également à davantage de transparence, en demandant par exemple au gouvernement de consacrer un «droit à l’explication» pour ces décisions.
Le ministre de la Fonction publique, Guillaume Kasbarian, a estimé samedi à Saint-Raphaël que l’IA était «la pierre angulaire de la transformation de la fonction publique», estimant que son développement «permettra des gains colossaux en efficacité».
Le Défenseur des droits, lui, veut «alerter les pouvoirs publics sur la place du droit des usagers dans ces politiques de déploiement tous azimuts des algorithmes et de l’IA à peu près dans tous les services publics».