Les autorités doivent préciser le cadre de l' »intervention humaine » d’un fonctionnaire lorsqu’une décision des services publics est prise avec l’appui de systèmes algorithmiques ou d’intelligence artificielle (IA), réclame mercredi le Défenseur des droits (DDD), dont un rapport appelle à renforcer la « transparence » sur ce sujet.
« C’est une question de confiance des usagers envers leur administration », a justifié auprès de l’AFP cette autorité indépendante, qui reçoit encore peu de réclamations d’usagers. Mais les premiers dossiers dessinent une problématique « systémique ».
A l’heure de « l’algorithmisation de l’administration », la part de l’intervention humaine dans les décisions qui ne sont que « partiellement automatisées » inquiète le DDD.
« Le fait qu’un agent applique de façon systématique, par exemple en appuyant sur un bouton +valider+, les résultats générés par l’algorithme ou le système d’IA, sans opération intellectuelle de vérification, ne saurait être considéré comme une intervention humaine », peut-on lire dans le rapport.
Il peut s’agir de démarches concernant des attributions de prestations sociales, de calculs d’impôts, ou encore d’accès à l’enseignement supérieur.
« On prend acte du droit tel qu’il existe et qui dit bien que dans toute une série de cas, il peut ne pas y avoir d’intervention humaine. Mais lorsqu’il doit y avoir une intervention humaine, on recommande de préciser ce que cette intervention doit apporter. Qui intervient ? A quel moment du processus ? Pour les décisions partiellement automatisées, il faut une intervention humaine plus substantielle », explique-t-on au DDD.
« Il n’y a pas de doute sur le fait qu’ils (IA et algorithmes) sont porteurs de progrès, il n’y a pas de doute non plus qu’ils soient porteurs de risques pour les droits fondamentaux », ajoute le Défenseur des droits.
L’autorité administrative appelle également à davantage de transparence, en demandant par exemple au gouvernement de consacrer un « droit à l’explication » pour ces décisions.
Le ministre de la Fonction publique, Guillaume Kasbarian, a estimé samedi à Saint-Raphaël que l’IA était « la pierre angulaire de la transformation de la fonction publique », estimant que son développement « permettra des gains colossaux en efficacité ».
Le Défenseur des droits, lui, veut « alerter les pouvoirs publics sur la place du droit des usagers dans ces politiques de déploiement tous azimuts des algorithmes et de l’IA à peu près dans tous les services publics ».
« Tous droits de reproduction et de représentation réservés. © 2024 Agence France-Presse. »
Réagissez à cet article
Vous avez déjà un compte ? Connectez-vous et retrouvez plus tard tous vos commentaires dans votre espace personnel.
Inscrivez-vous !
Vous n'avez pas encore de compte ?
CRÉER UN COMPTE