Biais algorithmiques : la sensibilisation commence dès la formation

Un algorithme est biaisé lorsque ses résultats ne sont pas neutres, voire sont discriminants. Pour lutter contre ces biais, une des solutions passerait par davantage d’inclusivité dans le monde de la tech. En multipliant les profils et les points de vue des personnes qui les créent, les algorithmes pourraient être plus représentatifs de notre monde actuel, et donc moins biaisés.

Quel rôle peuvent jouer les écoles pour permettre un numérique plus inclusif et éthique ? Depuis 10 ans, l’école Simplon.co[1] propose des formations au numérique du niveau Bac à Bac+5 dans 75 villes en France métropolitaine et à l’international, via des partenariats avec des écoles. Un de leurs mots d’ordre est l’inclusivité. Mathieu Giannecchini travaille depuis 5 ans à l’école Simplon.co et en est le directeur adjoint depuis avril 2022. Il est chargé des sujets technologiques, innovation pédagogique et qualité. Pour Techniques de l’ingénieur, il revient sur les moyens mis en œuvre par Simplon pour favoriser l’inclusivité pour un numérique plus éthique.

Techniques de l’Ingénieur : Pouvez-vous nous présenter l’école Simplon et ses objectifs ?

Mathieu Giannecchini : Simplon est un organisme de formation tech et inclusif créé en 2013. L’idée est d’utiliser les métiers en tension de la tech, donc ceux en pénurie de talents, pour en faire un levier d’inclusion et ainsi favoriser le retour à l’emploi. Nos formations vont d’un niveau à la sortie de Bac à Bac+5, sur des filières développement logiciel, intelligence artificielle, infrastructures, cloud et cybersécurité. Elles durent de 6 semaines pour les plus courtes à presque 2 ans pour celles en alternance. 

Depuis ses débuts, Simplon souhaite bousculer les codes. L’école est agréée Entreprise sociale et solidaire, et nous sommes animés par notre objectif d’impact social. Un de nos principes est de prendre des étudiants aux bagages très variés, sans demander de prérequis de diplômes à l’entrée. C’est un des éléments clés pour favoriser la diversité. D’autre part, nos formations pour les demandeurs d’emploi sont 100% prises en charge. Ainsi, en 10 ans, nous avons formé dans le monde environ 30 000 personnes dont près de 30% de femmes et 10% de personnes en situation de handicap. Nous surveillons en permanence ces indicateurs, qui sont des axes de développement forts pour nous. 

Pourquoi prônez-vous la diversité ?

Les logiciels et les algorithmes ressemblent à ceux qui les créent. Si nous n’arrivons pas à mettre de la diversité dans ces secteurs-là, les personnes qui vont développer les logiciels, les algorithmes et les infrastructures vont créer des biais et ces technologies ne seront pas adaptées à toute la population. Une des manières de lutter contre les biais est de favoriser la diversité et l’inclusion dans le secteur. 

Comment attirer des profils divers vers le numérique alors que les modèles que l’on voit dans les médias sont principalement blancs et masculins ?

C’est un sujet qui nous anime depuis le début de Simplon. Nous menons plusieurs actions, comme des ateliers de sensibilisation nommés “Dégenrons la tech” auprès de salariés d’entreprise, ou durant des réunions d’informations collectives. Ces ateliers permettent de déconstruire les stéréotypes de genre dans le numérique. Nous rappelons ainsi que de grandes innovations à l’origine de certains langages de programmation et de grands mouvements dans la tech ont été impulsés par des femmes. Il est nécessaire d’entretenir cette culture de la mixité dans le numérique. 

Nous nous appuyons aussi sur des associations comme Women & Girls in Tech, qui est très active avec la fondation Simplon. Nous nouons également des partenariats plus spécifiques sur des thématiques ciblées. En ce moment, nous nous attaquons au gaming et nous nous appuyons sur des associations comme Afrogameuses pour relayer ces messages-là.

Enfin, nous mettons en place des dispositifs très concrets comme des formations très courtes, et qui pour certaines sont 100% destinées aux femmes. L’idée de ces formations est de découvrir des métiers et d’avoir une première montée en compétences, avec l’objectif que ces femmes rejoignent ensuite une formation diplômante mixte. Cela nous permet d’attirer et de féminiser nos filières.

Concrètement, arrivez-vous à remplir votre objectif d’attirer de nouveaux publics dans le numérique ?

C’est une lutte quotidienne. Concernant la parité hommes-femmes, nous rêverions d’atteindre les 50%, mais c’est très difficile. Nous avons encore du mal à susciter des vocations dans certains domaines comme l’infrastructure ou l’administration cloud. C’est pourquoi nous essayons de vulgariser davantage ces métiers et de répliquer nos dispositifs 100% femmes pour les métiers infrastructure. 

Concernant la diversité au niveau des diplômes, ne pas mettre de prérequis crée naturellement un mix intéressant. Nous menons aussi des projets régionaux pour attirer les personnes des quartiers prioritaires des villes, et nous travaillons beaucoup avec Pôle Emploi[2] et les missions locales. D’après nos chiffres, à l’entrée, 44% de nos apprenants ont un niveau bac ou moins, 5% sont des réfugiés primo-arrivants et entre 15 et 20% viennent des quartiers prioritaires de villes.

Enfin, nous travaillons avec des entreprises spécialisées pour adapter nos locaux aux personnes en situation de handicap. Nos équipes sont accompagnées de référents handicap qui aident les chefs de projet à adapter la formation et le poste pour une meilleure accessibilité. En cumulé, nous arrivons à avoir une assez bonne diversité.

Durant vos formations, comment sensibilisez-vous vos apprenants à l’éthique dans le numérique et aux risques que les algorithmes reproduisent les inégalités ?

Il y a plusieurs actions. Déjà, nous avons un dispositif générique au début de nos formations durant lequel nous abordons les enjeux des impacts du numérique au sens large, donc social, environnemental, et les enjeux liés au biais. Nous avons aussi des actions plus spécifiques sur l’IA par exemple, avec notre partenaire Microsoft, qui nous permet de sensibiliser aux enjeux d’éthique autour de l’IA et de l’ingénierie logiciel. Nous proposons aussi sur certains parcours des formations de développeur web et d’accessibilité numérique où on va adjoindre au diplôme classique des certifications spécialisées sur l’accessibilité numérique. 

Plusieurs cas de harcèlement, d’agressions sexistes et sexuelles ont été dénoncés dans certaines écoles du numérique, comme à CentraleSupélec[3] ou à l’école 42[4]. Quelle attention portez-vous à ces questions ?

Nous y faisons très attention. Toute une charte est transmise à nos apprenants et nos axes de féminisation des promotions sont clairement affichés. Nous avons un processus qualité au plus proche du terrain avec des équipes pédagogiques sensibilisées au sujet. Nous avons déjà reçu des alertes mais elles restent relativement minoritaires. Je pense que c’est grâce à la force de la diversité : nous avons beaucoup d’apprenantes mais aussi de formatrices. 

Est-ce que les écoles peuvent avoir un véritable impact sur les inégalités dans le numérique ?

Le rôle des écoles est central, et dans tous les domaines du numérique. Simplon porte un plaidoyer en particulier mais je pense que de plus en plus d’écoles du numérique porte ce message d’enjeu de diversité et mixité. L’embauche de nos étudiants est un des indicateurs qu’on surveille particulièrement. Nous avons 90% de réussite à nos certifications, et 74% de sortie positive, à savoir soit un emploi direct, soit une poursuite de parcours. Nous n’avons pas observé de décrochage particulier sur les femmes, ni de discriminations particulières à l’embauche, mais nous ne suivons pas précisément le sujet.

Propos recueillis par Alexandra Vépierre

Crédit photo de Une : Welcome to the Jungle

[1] Simplon.co

[2] France Travail depuis ce 1er janvier

[3] CentraleSupélec

[4] L’école 42