Les dérives de la surveillance biométrique pointées du doigt

Le 21 juin dernier, l’EDPB et le CEPD ont appelé dans un communiqué à l’interdiction « de l’utilisation de l’Intelligence artificielle pour la reconnaissance automatique des caractéristiques humaines dans les espaces accessibles au public, et de certaines autres utilisations de l’IA qui peuvent conduire à une discrimination injuste ».

Le 7 juillet, c’est au tour du rapport « The Rise and Rise of Biometric Mass Surveillance in the EU » de pointer du doigt les dérives de la surveillance de masse reposant sur des technologies biométriques en Allemagne, en Pologne et aux Pays-Bas. Cette analyse a été réalisée par des étudiants de l’Edinburgh International Justice Initiative (EIJI) et des membres de l’EDRi (European Digital Rights), un groupe international de défense des droits basé en Belgique.

Principal constat : une utilisation disproportionnée de systèmes intrusifs dans ces trois pays, ainsi que l’utilisation répétée de systèmes « pilotes » et « d’essai » dans le but d’éviter l’examen réglementaire. Et la majorité de ces projets reposent sur le même argument : agir « sans discernement, par mesure de précaution ou de dissuasion » en se focalisant sur la sexualité et la religion (Allemagne) ou sur des communautés (Pays-Bas). Il ne s’agit donc pas de répondre à de réelles menaces.

Les auteurs de cette enquête prédisent « une utilisation illimitée de la surveillance de masse biométrique » à l’avenir. De telles pratiques engagent systématiquement (et ne respectent pas) les principes de nécessité et de proportionnalité que l’on trouve dans les cadres juridiques nationaux et européens, tout en ayant des implications plus profondes pour le droit à la dignité qui sous-tend les principes fondamentaux des droits de l’homme en Europe et au-delà.

Quelles sont les principales dérives relevées dans ces trois pays qui ont fait l’objet de cette analyse ? Concernant l’Allemagne, les chercheurs ont constaté que les forces de l’ordre achètent et installent des équipements de surveillance « prêts pour la biométrie » sans avoir déclaré de finalité spécifique. Des pratiques qui vont à l’encontre des législations nationale et européenne (dont le RGPD), lesquelles exigent que le traitement des données à caractère personnel soit toujours nécessaire et proportionné aux circonstances spécifiques.

1 % de fraude

Aux Pays-Bas, les « Living Labs » transforment les rues et les communautés en points de surveillance biométrique en temps réel. À l’origine, les Living Labs désignent des plateformes expérimentales fonctionnant comme des écosystèmes où l’utilisateur/usager est étudié dans son habitat. Dans ce pays, des systèmes analysent la voix et la démarche, mais aussi les réseaux sociaux pour déterminer entre autres les niveaux d’agressivité des jeunes traînant dans une rue.

Enfin, en Pologne, le gouvernement a commandé une application (baptisée Kwarantanna Domowa) pour smartphone afin de vérifier si les personnes tenues de s’auto-isoler sont bien là où elles ont dit qu’elles seraient. Ne pas l’installer peut entraîner des sanctions pénales. Les personnes concernées doivent s’enregistrer via cette application en prenant un selfie.

La géolocalisation du téléphone est également mémorisée lors de l’enregistrement et les selfies suivants doivent être soumis dans les vingt minutes suivant la demande. En cas de non-respect, une notification est automatiquement envoyée à la police.

Selon ce rapport, cette utilisation de la reconnaissance faciale semble disproportionnée : en mars 2020, la police polonaise avait constaté seulement 600 violations probables de la quarantaine lors d’une enquête sur 83 000 personnes, soit 1 % de fraudes…