L’intelligence artificielle : entre excitation et éthique

L’intelligence artificielle : entre excitation et éthique

Le Global Forum on AI for Humanity s’est tenu à Paris du 28 au 30 octobre. Près de 450 participants issus de 24 pays sont venus écouter près de 150 orateurs. Objet des conférences : les défis scientifiques de l'IA en lien avec les grands enjeux humains et sociaux.

L’intelligence artificielle est à la croisée de plusieurs disciplines : informatique, mathématiques (logique, optimisation, analyse, probabilités, algèbre linéaire), sciences cognitives…

Les algorithmes qui la sous-tendent reposent sur des approches aussi variées : analyse sémantique, représentation symbolique, apprentissage statistique et exploratoire, réseaux neuronaux, etc.

Son essor récent est dû aux progrès importants de l’apprentissage machine (ou machine learning) : au lieu de programmer la machine avec les règles qui régissent une tâche (souvent beaucoup plus complexe qu’on ne le pense), elle les découvre maintenant elle-même.

Dérives

Mais l’IA oblige à la réflexion, car ses enjeux sont extrêmement variés. Ce forum a donc été l’occasion de l’aborder sous deux aspects. Premièrement, le recours aux technologies issues de l’IA pour tenter de relever les grands défis actuels de l’humanité : développement durable de l’ONU en matière de santé, éradication de la pauvreté, accès à l’éducation ou préservation de l’environnement.

Deuxièmement, l’appréciation des risques inhérents à l’IA et sur les moyens à mettre en œuvre pour les circonscrire. « Toute technologie porteuse de bienfaits comporte aussi des risques. Les incertitudes inhérentes au développement et au déploiement rapide de l’IA et du numérique nécessitent, autant que possible, d’être anticipées et maîtrisées. Il s’agit de déployer des efforts de recherche et des expérimentations afin d’appréhender ces différentes problématiques sur les plans techniques, sociaux et humains », insiste Malik Ghallab, directeur de recherche émérite au CNRS et co-organisateur de cet événement.

Car les dérives de l’IA existent. « L’IA transforme la société et cela peut avoir des conséquences. Ainsi, les technologies prédictives qui aident à prendre des décisions peuvent être instrumentalisées. Aux États-Unis, des compagnies d’assurance se sont basées sur le code postal pour déterminer le risque d’accident ! C’est stupide », constate Jean-Gabriel Ganascia, professeur à l’Université Pierre et Marie Curie et responsable de l’équipe ACASA (Agents Cognitifs et Apprentissage Symbolique Automatique) du LIP6.

Un cadre de référence

Le Global Forum on AI for Humanity a été aussi l’occasion de rappeler que Paris et Montréal veulent être les deux pôles de l’IA au travers du Partenariat mondial sur l’intelligence artificielle (PMIA) lancé avec l’OCDE, sous l’impulsion du Canada et de la France. Les meilleurs experts internationaux et les gouvernements se réuniront pour échanger sur les opportunités et risques de l’IA.

La multiplication des forums sur l’IA (à Berkeley il y a quelques mois, aux Pays-Bas, début octobre) confirme que cette thématique va au-delà du simple buzzword. Elle soulève à la fois de nombreux espoirs dans différents domaines, mais aussi des interrogations auxquelles il est encore très difficile de répondre. C’est le cas de l’éthique.

« Les entreprises veulent faire ce qu’il faut, mais elles n’ont pas de cadre de référence clair sur ce que l’IA éthique signifie dans leur cas d’utilisation ou dans leur contexte ni d’orientation sur la façon dont elles peuvent l’appliquer. Cela les empêche de mettre en œuvre des solutions d’IA », explique Laetitia Cailleteau, Global Managing Director, Conversational AI chez Accenture.

Par exemple, il est essentiel de s’assurer qu’un algorithme d’IA et ses données sous-jacentes sont aussi impartiaux et représentatifs que possible. Si l’on s’appuie sur l’IA pour étudier d’une demande de crédit, il faut s’assurer que les données historiques ne sont pas biaisées.

L’amélioration des capacités informatiques et des connaissances sur l’IA ne doivent pas conduire à trop de précipitation. La réflexion reste essentielle pour que les usages de l’IA soient majoritairement positifs.