Bibliographie & annexes
Quiz & test
Présentation
En anglais
RÉSUMÉ
Sans une réelle explicabilité des algorithmes proposés, les technologies d’Intelligence artificielle et d’apprentissage profond sont une boîte noire pour les utilisateurs. Les ingénieurs exploitants et concepteurs d’outils d’IA doivent donc faire preuve de responsabilité, en fournissant des algorithmes permettant de garantir l’explicabilité des modèles proposés. Cet article présente les motivations d’une IA explicable, les principales caractéristiques du paysage conceptuel de l’explicabilité en IA, les grandes familles de méthodes pour l’explicabilité - avec un focus sur quelques méthodes parmi les plus courantes, pour finir sur un aperçu des opportunités, challenges et perspectives de ce domaine passionnant de l’interaction homme-machine.
Lire cet article issu d'une ressource documentaire complète, actualisée et validée par des comités scientifiques.
Lire l’articleABSTRACT
Essential for a good adoption, as well as for a wise and unbiased use, explicability is a real technology lock to
the evolution of Artificial Intelligence (AI), in particular concerning Machine and Deep Learning.
Without an effective explicability of the proposed algorithms, these techniques will remain a black box for users. Increasingly, engineers and designers of AI tools will have to demonstrate their responsibility by providing algorithms that guarantee the explicability of the proposed models. This article presents the motivations of an explainable AI, the main characteristics of the conceptual landscape of explainability in AI, the major families of explainability methods - with a focus on some of the most common methods, to finally present some of the opportunities, challenges and perspectives of this exciting field of human-machine interaction.
Auteur(s)
-
Daniel RACOCEANU : Professeur des Universités, HDR, PhD, M. Sc., Ing. Dipl. - Sorbonne Université, Institut du Cerveau – Paris Brain Institute – ICM, CNRS, Inria, Inserm, AP-HP, Hôpital de la Pitié Salpêtrière, F-75013, Paris, France
-
Mehdi OUNISSI : Chercheur, M. Sc. - Sorbonne Université, Sorbonne Center for Artificial Intelligence (SCAI), Institut du Cerveau – Paris Brain Institute – ICM, CNRS, Inria, Inserm, AP-HP, Hôpital de la Pitié Salpêtrière, F-75013, Paris, France
-
Yannick L. KERGOSIEN : Professeur Honoraire des Universités, HDR, MD - Université de Cergy-Pontoise, Cergy, France
INTRODUCTION
L’Intelligence Artificielle (IA) moderne connaît un essor sans précédent depuis une décennie. De nombreux domaines applicatifs trouvent ainsi une dynamique nouvelle, grâce à ces technologies révolutionnaires. Cependant, l’adoption de ces techniques se trouve très souvent limitée par le manque d’éléments de traçabilité et de retour d’expérience vis-à-vis des experts. Ceux-ci se sentent donc frustrés de par ce manque de retour, alors que la mise en place même de l’outil leur demande de fournir un effort considérable de formalisation et de mise à disposition d’une expertise colossale. Certains auteurs parlent donc d’une tendance « boîte noire » (black-box évolution), peu souhaitable pour une utilisation traçable, interprétable, explicable et, ultimement, responsable de ces outils.
Le besoin d’explications quant à la manière dont un système intelligent opère est d’autant plus important que les performances du système dépassent – au moins dans un domaine spécialisé – les capacités humaines, et cette question a été abordée dès l’époque des systèmes experts. Les récents systèmes d’apprentissage profond (Deep Learning – DL) peuvent atteindre des performances étonnantes et leur grand nombre de paramètres rend d’autant plus difficile la compréhension des solutions auxquelles ils parviennent, quand bien même ces paramètres sont tous accessibles. Cependant, l’actualité du sujet de l’explicabilité pour les systèmes intelligents vient moins de véritables percées – encore attendues – dans la résolution de ce problème que de la nouveauté juridique – qui s’impose en particulier aux acteurs de l’IA – que constitue l’inclusion dans le Règlement Général sur la Protection des Données (RGPD, règlement européen) d’obligations d’explications pour le traitement automatique de données personnelles. Nous adoptons donc une démarche technologique traditionnelle à un domaine très mobile et proposons, à côté d’exemples, un cadre conceptuel guidant l’approche du praticien dans la recherche de solutions.
L'expertise technique et scientifique de référence
KEYWORDS
machine learning | deep learning | explainable artificial interlligence
DOI (Digital Object Identifier)
CET ARTICLE SE TROUVE ÉGALEMENT DANS :
Accueil > Ressources documentaires > Technologies de l'information > Technologies logicielles Architectures des systèmes > Génie logiciel > Explicabilité en Intelligence Artificielle ; vers une IA Responsable - Instanciation dans le domaine de la santé > Abréviations
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Présentation
Motivations d’une intelligence artificielle explicable
En anglais
6. Abréviations
DL Deep Learning = Apprentissage profond. 20, 21, 37
IA Artificial Intelligence = Intelligence Artificielle. 3, 21, 37
ML Machine Learning = Apprentissage automatique. 20, 21, 37
RAI Responsible Artificial Intelligence = Intelligence Artificielle Responsable. 5, 36
REX Retour d’EXpérience. 36–38
XAI eXplainable Artificial Intelligence = Intelligence Artificielle Explicable. 4, 6, 36, 37
Score F1, ROC et AUC
Le score F1, ROC, AUC sont des métriques utilisées dans les tâches de détection d'objets en général, pour l’évaluation objective des algorithmes :
-
le score F1 est la moyenne harmonique de la précision et du rappel, sa valeur la plus élevée possible est 1,0 (précision et un rappel parfaits), et la valeur la plus basse possible est 0, si la précision ou le rappel est nul ;
-
le ROC est le Receiver Operating Characteristic. La courbe ROC est une courbe dont les points, correspondant à différentes valeur du seuil de décision d’un classifieur binaire ou d’un test diagnostique, ont chacun pour abscisse le taux de faux positifs ou 1 moins la spécificité, et pour ordonnée le taux de vrais positifs ou la sensibilité ;
-
AUC (Area Under the Curve) est l’aire sous la courbe (critère appliqué à une courbe ROC pour apprécier la qualité d’un classifieur binaire sans choix d’un seuil.
L'expertise technique et scientifique de référence
TEST DE VALIDATION ET CERTIFICATION CerT.I. :
Cet article vous permet de préparer une certification CerT.I.
Le test de validation des connaissances pour obtenir cette certification de Techniques de l’Ingénieur est disponible dans le module CerT.I.
de Techniques de l’Ingénieur ! Acheter le module
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Abréviations
BIBLIOGRAPHIE
-
(1) - WANG (J.) et al - Learning Credible Models. - In : Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining (juill. 2018). arXiv : 1711.03190, p. 2417-2426. doi : 10.1145/3219819. 3220070. URL : http://arxiv.org/ abs/1711.03190 (visité le 16/09/2021).
-
(2) - HOFFMAN (R.R.) et al - Metrics for Explainable AI : Challenges and Prospects. - In : CoRR abs/1812.04608 (2018). arXiv : 1812. 04608. URL : http://arxiv.org/abs/1812.04608.
-
(3) - MOHSENI (S.), ZAREI (N.), RAGAN (E.D.) - A Survey of Evaluation Methods and Measures for Interpretable Machine Learning. - In : CoRR abs/1811.11839 (2018). arXiv : 1811.11839. URL : http://arxiv.org/abs/1811.11839.
-
(4) - Executive Office of the PRESIDENT, HOLDEN (J.P.M.), SMITH - Preparing for the future of artificial intelligence. - In : (2016).
-
(5) - VILLANI (C.) et al - Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne....
Proposition de RÈGLEMENT DU PARLEMENT EUROPÉEN ET DU CONSEIL ÉTABLISSANT DES RÈGLES HARMONISÉES CONCERNANT L’INTELLIGENCE ARTIFICIELLE (LÉGISLATION SUR L’INTELLIGENCE ARTIFICIELLE) ET MODIFIANT CERTAINS ACTES LÉGISLATIFS DE L’UNION. Bruxelles, le 21.4.2021.
HAUT DE PAGE
Royal Society – Projets
https://royalsociety.org/topics-policy/projects
IBM-Explainable AI
https://www.ibm.com/fr-fr/watson/explainable-ai
Kaggle
Dagitty
HAUT DE PAGE
L'expertise technique et scientifique de référence
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
QUIZ ET TEST DE VALIDATION PRÉSENTS DANS CET ARTICLE
1/ Quiz d'entraînement
Entraînez vous autant que vous le voulez avec les quiz d'entraînement.
2/ Test de validation
Lorsque vous êtes prêt, vous passez le test de validation. Vous avez deux passages possibles dans un laps de temps de 30 jours.
Entre les deux essais, vous pouvez consulter l’article et réutiliser les quiz d'entraînement pour progresser. L’attestation vous est délivrée pour un score minimum de 70 %.
L'expertise technique et scientifique de référence
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
