Le conseil de Meta demande des règles sur les "deepfakes" adaptées à l'ère de l'IA

Le conseil de surveillance de Meta a demandé jeudi au géant des réseaux sociaux d’adapter ses règles concernant les « deepfakes » (images truquées) pornographiques à l’ère de l’intelligence artificielle (IA) générative et non plus à celle de « photoshop ».

Le comité de personnalités et experts indépendants, considéré comme une sorte de « cour suprême » pour la modération des contenus sur Facebook et Instagram, a fait part de cette recommandation après avoir examiné deux cas de deepfakes de femmes célèbres en Inde et aux États-Unis.

Dans un cas, l’image manipulée publiée sur Instagram a été laissée en ligne malgré une plainte et dans l’autre, elle n’a pas été autorisée sur la plateforme. Les deux décisions ont fait l’objet d’un recours devant le conseil.

L’instance a décidé que les deux deepfakes violaient une règle existante de Meta contre une pratique appelée « Photoshop sexualisant et désobligeant », et que le groupe californien devait rendre cette règle plus facile à comprendre.

Cette catégorie définie par Meta comprend des images manipulées et sexualisées d’une façon qui risque de susciter la désapprobation des personnes photographiées.

Le logiciel de retouche d’images Photoshop a été mis sur le marché pour la première fois en 1990 et a été si largement utilisé qu’il est devenu une référence courante pour l’édition de photos.

Toutefois, la référence à « Photoshop » dans une règle sur les « deepfakes » pornographiques est « trop limitée », à l’heure où des technologies telles que l’IA générative permettent de créer facilement des images ou des vidéos sur simple requête en langage courant, souligne le conseil de surveillance.

Il propose à Meta de préciser que les contenus sexuels non consensuels, créés ou manipulés par l’IA, sont interdits.

A la création du conseil en 2020, le groupe californien avait accepté de se conformer aux décisions de la nouvelle instance sur des contenus spécifiques, mais il peut adopter à sa guise les recommandations sur ses règlements.

gc-juj/els/spi