Le Royaume-Uni s'attaque aux outils de l'IA permettant des créer des contenus pédopornographiques

Le gouvernement britannique a annoncé dimanche la création de nouveaux délits pour s’attaquer aux « prédateurs » utilisant des outils d’intelligence artificielle (IA) dans le but de créer des images de violences sexuelles sur des enfants.

Cette nouvelle législation, présentée par le gouvernement britannique comme une première dans le monde, vise à « assurer la sécurité de nos enfants en ligne alors que les technologies évoluent », explique la ministre de l’Intérieur Yvette Cooper, citée dans un communiqué.

Posséder, créer ou distribuer des outils de l’IA conçus pour générer des images de violences sexuelles sur des enfants sera passible d’une peine allant jusqu’à 5 ans de prison.

Il sera également illégal de posséder des « manuels » expliquant comment utiliser l’IA pour s’en prendre à des enfants. Cela pourra être puni de trois ans de détention.

« Nous savons que les activités en ligne des prédateurs les conduisent souvent à commettre les violences les plus horribles en personne », écrit Yvette Cooper.

Des outils de l’IA sont utilisés pour « dénuder » des enfants à partir de photos réelles ou encore pour coller le visage d’enfants sur des images de violences sexuelles déjà existantes, souligne le ministère de l’Intérieur.

« Des auteurs utilisent ces fausses images pour faire chanter les enfants », ajoute-t-il.

L’organisation Internet Watch Foundation (IWF), qui lutte contre les contenus d’exploitation sexuelle en ligne, s’est félicitée de cette nouvelle législation.

« N’importe quel enfant peut désormais devenir une victime, car il suffit de quelques clics pour obtenir des images réalistes d’eux en train de subir des violences sexuelles », souligne Derek Ray-Hill, directeur de l’IWF.

De plus, des enfants ayant subi des violences sexuelles dans le passé « sont aujourd’hui à nouveau victimes », explique-t-il, car il arrive que les images de ces violences soient « commercialisées pour former des modèles d’intelligence artificielle ».