Encore il y a peu l’apanage des experts, l’IA est entrée vivement dans la vie de tous lors du lancement de ChatGPT en novembre 2022. Depuis, nombres d’entreprises se lancent dans le secteur de peur de se faire distancer. Mais cette course aux innovations injecte dans nos vies de nouvelles technologies qui n’ont pas forcément été suffisamment réfléchies et dont les impacts -sociaux, sociétaux, écologiques, géopolitiques- interrogent.
Ce dossier met en lumière les dysfonctionnements causés par l’IA et les nombreux problèmes éthiques que son utilisation constante et parfois peu raisonnée soulève. Nos interlocuteurs proposent également des pistes de solution pour une IA plus responsable, avec de bonnes pratiques en entreprise ou en formation, et avec une plus grande présence de la société civile, pour consentir ou non à tous ces chamboulements dans notre vie quotidienne.
Tout d’abord, nous rencontrons Mathilde Saliou, autrice de Technoféminisme : Comment le numérique aggrave les inégalités. L’algorithme de recrutement d’Amazon qui privilégie les CV d’hommes ; l’assistant virtuel Siri qui indique où trouver du Viagra mais pas les centres d’avortement ; des hommes noirs accusés à tort par les algorithmes de reconnaissance faciale de la police américaine… Tous ces exemples sont les conséquences de biais algorithmiques. Souvent considérés comme neutres et impartiaux, les algorithmes reproduisent en réalité les inégalités de notre société, voire les aggravent. L’autrice invite à une réflexion poussée sur notre manière de créer des algorithmes.
Ensuite, Félix Tréguer alerte sur les risques de l’IA pour notre démocratie. Chercheur associé au Centre Internet et Société du CNRS et membre fondateur de La Quadrature du Net, il surveille le secteur avec l’association pour défendre les libertés fondamentales dans l’environnement numérique. Mais depuis quelques années, la surveillance s'accroît grâce aux nouvelles technologies, ce qui l’inquiète grandement.
Du côté des entreprises, tout le monde veut surfer sur la vague IA sans prendre le temps d’avoir une démarche raisonnée et de comprendre les impacts d’une telle technologie. Amélie Cordier, experte en intelligence artificielle, accompagne les entreprises pour leur faire prendre conscience des enjeux et implanter l’IA efficacement, sans tomber dans la précipitation et l’effet de mode.
Mais au vu de tous les impacts négatifs de l’IA, peut-on vraiment concevoir des algorithmes plus éthiques ? Giada Pistilli est chercheuse en philosophie et écrit une thèse sur l’éthique dans les IA conversationnelles. Depuis mai 2022, elle est aussi responsable de l’éthique à Hugging Face, une plateforme open source d’outils d’intelligence artificielle. Pour Techniques de l’Ingénieur, elle propose des pistes de réflexions et invite à une utilisation plus responsable de l’IA.
Enfin, créer un milieu du numérique plus éthique, mixte et avec des innovations adaptées à toutes et à tous passe aussi par la formation. L’école Simplon.co s’engage avec des formations au numérique plus inclusives. Rencontre avec Mathieu Giannecchini, directeur adjoint de l’école.
