Logo ETI Quitter la lecture facile
Visuel AFP

AFP

IA dans les services publics: le Défenseur des droits veut plus de contrôle humain

Posté le par AFP

Les autorités doivent préciser le cadre de l' »intervention humaine » d’un fonctionnaire lorsqu’une décision des services publics est prise avec l’appui de systèmes algorithmiques ou d’intelligence artificielle (IA), réclame mercredi le Défenseur des droits (DDD), dont un rapport appelle à renforcer la « transparence » sur ce sujet.

« C’est une question de confiance des usagers envers leur administration », a justifié auprès de l’AFP cette autorité indépendante, qui reçoit encore peu de réclamations d’usagers. Mais les premiers dossiers dessinent une problématique « systémique ».

A l’heure de « l’algorithmisation de l’administration », la part de l’intervention humaine dans les décisions qui ne sont que « partiellement automatisées » inquiète le DDD.

« Le fait qu’un agent applique de façon systématique, par exemple en appuyant sur un bouton +valider+, les résultats générés par l’algorithme ou le système d’IA, sans opération intellectuelle de vérification, ne saurait être considéré comme une intervention humaine », peut-on lire dans le rapport.

Il peut s’agir de démarches concernant des attributions de prestations sociales, de calculs d’impôts, ou encore d’accès à l’enseignement supérieur.

« On prend acte du droit tel qu’il existe et qui dit bien que dans toute une série de cas, il peut ne pas y avoir d’intervention humaine. Mais lorsqu’il doit y avoir une intervention humaine, on recommande de préciser ce que cette intervention doit apporter. Qui intervient ? A quel moment du processus ? Pour les décisions partiellement automatisées, il faut une intervention humaine plus substantielle », explique-t-on au DDD.

« Il n’y a pas de doute sur le fait qu’ils (IA et algorithmes) sont porteurs de progrès, il n’y a pas de doute non plus qu’ils soient porteurs de risques pour les droits fondamentaux », ajoute le Défenseur des droits.

L’autorité administrative appelle également à davantage de transparence, en demandant par exemple au gouvernement de consacrer un « droit à l’explication » pour ces décisions.

Le ministre de la Fonction publique, Guillaume Kasbarian, a estimé samedi à Saint-Raphaël que l’IA était « la pierre angulaire de la transformation de la fonction publique », estimant que son développement « permettra des gains colossaux en efficacité ».

Le Défenseur des droits, lui, veut « alerter les pouvoirs publics sur la place du droit des usagers dans ces politiques de déploiement tous azimuts des algorithmes et de l’IA à peu près dans tous les services publics ».

« Tous droits de reproduction et de représentation réservés. © 2024 Agence France-Presse. »

Posté le par AFP


Réagissez à cet article

Commentaire sans connexion

Pour déposer un commentaire en mode invité (sans créer de compte ou sans vous connecter), c’est ici.

Captcha

Connectez-vous

Vous avez déjà un compte ? Connectez-vous et retrouvez plus tard tous vos commentaires dans votre espace personnel.

INSCRIVEZ-VOUS
AUX NEWSLETTERS GRATUITES !