Reconnaissance faciale : une solution qui peut être détournée pour frauder

Faudra-t-il montrer son meilleur profil pour être correctement identifié dans les prochaines années ? Le marché mondial de la reconnaissance faciale devrait en effet atteindre 12,92 milliards de dollars d’ici 2027, soit une croissance 14,8 % par rapport à 2020.

Le dernier rapport intitulé « Facial Recognition Market Size, Share, Covid-19 Impact Analysis and Regional Forecast, 2020-2027 » de Fortune Business Insights confirme que cette technologie est utilisée pour de nombreux usages et dans de nombreux secteurs. Les plus connus sont les systèmes d’identification déployés dans des aéroports.

Mais la pandémie a accéléré le recours à cette solution et de façon générale, aux outils de collecte de données biométriques (contrôles de température dans les aéroports, caméras thermiques dans les écoles…).

Un selfie pour des personnes en isolement Covid

En septembre dernier, l’Australie a étendu un programme utilisant la reconnaissance faciale pour faire respecter les mesures de sécurité liées au Covid-19. Les personnes mises en quarantaine sont soumises à des contrôles aléatoires, au cours desquels elles doivent envoyer un selfie pour confirmer qu’elles respectent les règles.

Outre-Atlantique, 24 États utilisent la reconnaissance faciale de la société ID.me afin de vérifier l’identité des personnes avant de leur verser leur allocation chômage. De nombreux gouverneurs fondent leur décision sur un rapport publié en 2021 par le National Institute of Standards and Technology (NIST) qui considère que la précision s’est considérablement améliorée et que les systèmes les plus précis commettaient moins d’erreurs fondées sur la race ou le sexe.

Ces États s’appuient également sur l’affirmation du PDG d’ID.me affirmant que sa technologie FaceMatch « opère avec une efficacité de 99,9 % ». Et la sentence est sans appel : au bout de trois échecs d’identification, l’allocataire potentiel est bloqué. Il peut toujours contacter le service d’aide de cette entreprise américaine, disponible au maximum en 30 minutes 24h/24 et 7j/7 d’après le PDG d’ID.me Blake Hall. Mais de nombreux messages de plaintes indiquent qu’il y aurait plusieurs semaines d’attente et de procédures.

Un simple maquillage pour leurrer la reconnaissance faciale

Des délais qui pourraient être dus à la multiplication des fraudes à l’identité. Cet été, ID.me a indiqué avoir recensé plus de 80 000 tentatives frauduleuses entre juin 2020 et janvier 2021 au sein des agences gouvernementales américaines pour lesquelles elle travaille.

Pour tromper ces systèmes, des pirates, mais aussi des hacktivistes et des fraudeurs ont recours à des deepfakes (images très réalistes générées par l’IA), portent des masques, utilisent des vidéos ou encore découpent des photos. Une étude récente menée à l’Université Ben Gourion a même constaté qu’il est possible de leurrer les systèmes de reconnaissance faciale avec du maquillage.

De son côté, Adversa, une start-up travaillant sur des mesures de sécurité appliquées pour l’intelligence artificielle, a démontré comment PimEyes.com, un moteur de recherche d’images publiques, a confondu un homme avec Elon Musk (patron de Tesla) sur une photo.

« Certaines technologies sont trop facilement détournées, et aucune réglementation ou évolution de la conception ne peut les empêcher de porter atteinte à nos droits. Nous pensons que c’est le cas des outils de surveillance qui permettent la collecte et le traitement à distance en masse de données biométriques, ainsi que la surveillance ciblée discriminatoire », avertit la Ligue des droits de l’Homme dans un appel pour l’interdiction mondiale du recours à la reconnaissance faciale.

Autant de raisons (outre la problématique du consentement explicite et préalable) qui ont certainement poussé Michel Cadot, le délégué interministériel aux Jeux olympiques et paralympiques de Paris 2024, à indiquer il y a quelques jours que la solution de la reconnaissance faciale était « écartée » concernant la sécurité de l’évènement.