Sommes-nous libres de refuser les objets numériques ? Comment faire de l’innovation numérique responsable ? Quid des biais des algorithmes ?
Christine Balagué, professeure à l’Institut Mines-Télécom Business School, titulaire de la chaire « Good in tech », et Jean-Gabriel Ganascia, professeur d’informatique à Sorbonne Université et président du Comité d’éthique du CNRS, répondent à ces questions dans ce troisième épisode de Cogitons Sciences.
Vous pouvez l’écouter ici.
Les nouvelles technologies numériques nous sont-elles imposées ? [1:26] – [12:53]
Selon le président du COMETS, concernant la 5G par exemple, nous serions « individuellement très contraints » car il serait « difficile de refuser une nouvelle norme de transmission de données, comme par exemple la 5G ; ou alors il faudrait refuser d’avoir un téléphone portable ! » Il prône les « choix éclairés », adossés à une « bonne maîtrise des technologies », pour éviter de « s’engager dans un moratoire » collectif contre telle ou telle technologie, « sous prétexte qu’il existe des risques ».
Vers une innovation numérique responsable ? [13:05] – [24:06]
On peut se demander dans ce cas ce qui peut être faisable au-delà de l’individu et de la communauté des utilisateurs : c’est-à-dire au niveau de l’entreprise elle-même. On parle alors avec Christine Balagué d’innovation numérique responsable. « On a trois critères à l’innovation numérique responsable. La technologie doit avoir un impact positif sur la société ; la technologie doit prendre en compte le fait qu’elle n’impacte pas négativement l’environnement […] ; et enfin, il faut s’assurer que la technologie n’impacte pas négativement la société ».
À l’origine des biais discriminants des algorithmes [24:22] – [28:59]
Les effets de discrimination des algorithmes viennent de deux parties, nous informe Christine Balagué : « soit ils viennent de l’algorithme lui-même, c’est-à-dire du traitement ou de l’apprentissage ; soit ils viennent, et c’est ici souvent la majorité des cas, de la base de données qui rentre dans l’algorithme ».
Les algorithmes en milieu professionnel [29:25] – [34:37]
« Il faut évacuer un certain nombre de craintes qui relèvent plus de la légende et du mythe », assure Jean-Gabriel Ganascia. Le président du COMETS poursuit : « pour trouver sa place dans cette société de la connaissance, le numérique joue un rôle important. […] Le risque est de laisser des gens à côté du progrès et donc de les rendre inemployables. Le grand défi est de former l’ensemble de la population aux nouvelles technologies, et les former à tout âge de la vie. »
La désinformation sur les réseaux sociaux, non-éthique par excellence [34:55] – [37:54]
« On est complètement dans des stratégies non-éthiques lorsqu’on veut diffuser massivement des fake news pour manipuler l’opinion », nous répond Christine Balagué. Aujourd’hui, deux règles ont été mises en place par les plateformes, développe la chercheuse : « la première est qu’on ne peut pas diffuser de fake news pendant une période électorale ; la deuxième est qu’on ne peut pas diffuser de fake news qui peuvent porter atteinte à la vie d’un individu. » Elle rappelle qu’il existe quand même des technologies d’IA qui permettent de lutter contre… les dérives de l’IA !
Références citées :
- La pièce de théâtre R. U. R. écrite en 1920 par Karel Čapek et où le mot “robot” est apparu pour la première fois.
- La notion de “privacy by design” (RGPD).
- L’étude “Dissecting racial bias in an algorithm used to manage the health of populations”, publiée le 25 octobre 2019 dans Science.
Ressources pour aller plus loin :
- Les ressources, dont des webinars, disponibles sur le site de la chaire “Good in Tech”.
- Les rapports du CSA (Conseil supérieur de l’audiovisuel) sur les fake news.
- Les rapports disponibles sur les sites du COMETS, de la CERNA (Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene) et du CNPEN (Comité national pilote d’éthique du numérique).
Cogitons Sciences est un podcast produit par Techniques de l’Ingénieur. Cet épisode a été réalisé par Intissar El Hajj Mohamed, en collaboration avec Alexandra Vépierre. Le générique a été réalisé par Pierre Ginon et le visuel du podcast a été créé par Camille Van Belle.
Cet article se trouve dans le dossier :
Cogitons Sciences, le podcast qui décrypte les enjeux des sciences !
- Écoutez notre podcast Cogitons Sciences : Recyclés et biodégradables, une fausse bonne idée ? [Plastique addict : comment s'en débarrasser ? #1]
- Écoutez notre podcast Cogitons Sciences : Renoncer au plastique jetable... Comment faire ? [Plastique addict : comment s'en débarrasser ? #2]
- Écoutez notre podcast Cogitons Sciences : Remplacer le plastique pétrosourcé par du biosourcé [Plastique addict : comment s'en débarrasser ? #3]
- Écoutez notre podcast Cogitons Sciences : Comment l’IA révolutionne notre façon de travailler ? [L’IA s’invite dans nos métiers #1]
- Écoutez notre podcast Cogitons Sciences : Intégrer l’IA dans votre entreprise, pour un usage utile et raisonné [L’IA s’invite dans nos métiers #2]
- Écoutez notre podcast Cogitons Sciences : Pour une intégration éthique et règlementée de l’IA [L’IA s’invite dans nos métiers #3]
- Écoutez notre podcast Cogitons Sciences : C’est quoi au juste une industrie sobre ? [Sobriété des industries #1]
- Écoutez notre podcast Cogitons Sciences : L'importance de l'analyse de cycle de vie dans l’écoconception [Sobriété des industries #2]
- Écoutez notre podcast Cogitons Sciences : Pourquoi et comment passer à l’économie circulaire ? [Sobriété des industries #3]
- Écoutez notre podcast Cogitons Sciences : Une industrie accro aux minerais de conflit [Matériaux, histoire d'une vie #1]
- Écoutez notre podcast Cogitons Sciences : Guide pour bien choisir ses matériaux [Matériaux, histoire d’une vie #2]
- Ecoutez notre podcast Cogitons Sciences : Matériaux, durée de vie et fatigue [Matériaux, histoire d’une vie #3]
- Écoutez notre podcast Cogitons Sciences : Alexandre Tisserant, de l’informatique aux nanosatellites [Des ingénieurs qui cassent la routine #1]
- Écoutez notre podcast Cogitons Sciences : Ingénieurs ès jeux vidéo [Des ingénieurs qui cassent la routine #2]
- Écoutez notre podcast Cogitons Sciences : Clément Thivin, un ingénieur pas bateau [Des ingénieurs qui cassent la routine #3]
- Ecoutez notre podcast Cogitons Sciences : Les hard skills ne suffisent plus ! [Les ingénieurs se réinventent #1]
- Écoutez notre podcast Cogitons Sciences : Panorama d’un métier en mouvement [Les ingénieurs se réinventent #2]
- Écoutez notre podcast Cogitons Sciences : Les ingénieurs français font carrière à l'étranger [Les ingénieurs se réinventent #3]
- Ecoutez notre podcast Cogitons Sciences : L’hydrogène bas carbone a le vent en poupe ! [Energie et mobilité #1]
- Ecoutez notre podcast Cogitons Sciences : Biocarburants avancés, on fait le tour ! [Energie et mobilité #2]
- Ecoutez notre podcast Cogitons Sciences : Allier numérique et écoconduite [Energie et mobilité #3]
- Ecoutez notre podcast Cogitons Sciences : Innover, pour le meilleur ? [Sciences et éthique #1]
- Ecoutez notre podcast Cogitons Sciences : Encadrer la recherche médicale [Sciences et éthique #2]
- Ecoutez notre podcast Cogitons Sciences : Biais, fantasmes, et pratique du numérique [Sciences et éthique #3]
- Cogitons Sciences, le podcast qui décrypte les enjeux des sciences !
- Notre podcast Cogitons Sciences est à découvrir !
- Vers une éthique du métier d'ingénieur
- Gabriel Plassat : « Accompagner l’innovation et anticiper les changements, les clés d’une (r)évolution numérique aux nombreux enjeux »
- Regards de dirigeants #18 : Marc Rumeau, IESF
- Quels emplois pour les ingénieurs en 2030 ?
- « Les études d’ingénieur sont celles qui ouvrent le plus de portes »
- L’Europe veut aussi sa constellation de satellites Internet
- Une méthodologie innovante pour évaluer la criticité des ressources
- « L'essentiel de l'impact numérique a lieu lors de la première étape du cycle de vie »
Dans l'actualité
- Quelle éthique pour la robotique ?
- Intégrer les questionnements éthiques en entreprise
- Sonder l’espace avec éthique : pourquoi et comment ?
- Pourquoi et comment avoir une approche éthique dès la R&D ?
- Bioéthique et santé : revue express des biotechnologies phares
- Prendre en compte les incertitudes : vers une ingénierie réflexive
- Vers une éthique du métier d’ingénieur
- Innovantes #2 : Lutter contre les biais de genre dans l’innovation
- Biais algorithmiques : la sensibilisation commence dès la formation
- Racistes, sexistes, classistes : comment les biais algorithmiques creusent les inégalités ?
- « Les entreprises foncent tête baissée dans l’IA sans se poser de questions »
- Peut-on concevoir des algorithmes réellement éthiques ?
- Écoutez notre podcast Cogitons Sciences : Comment l’IA révolutionne notre façon de travailler ? [L’IA s’invite dans nos métiers #1]
- Écoutez notre podcast Cogitons Sciences : Intégrer l’IA dans votre entreprise, pour un usage utile et raisonné [L’IA s’invite dans nos métiers #2]
- Écoutez notre podcast Cogitons Sciences : Pour une intégration éthique et règlementée de l’IA [L’IA s’invite dans nos métiers #3]
- Gaëlle Lissorgues : « Connecter le vivant à son environnement biotechnologique grâce aux capteurs électroniques »