En 2024, poursuivons notre combat contre la pédocriminalité

En 2024, la Fondation pour l’Enfance poursuivra son combat contre la pédocriminalité en ligne en s’attaquant aux risques liés à l’Intelligence Artificielle.

L’année 2023 s’est achevée sur l’interpellation de 80 individus soupçonnés de détention, consultation et diffusion d’images à caractère pédopornographique en ligne. Les violences en ligne sur mineurs, notamment sexuelles, sont plus que jamais une réalité. La Fondation pour l’Enfance s’inquiète particulièrement d’un nouveau phénomène : la génération de contenus à caractère pédopornographique par l’intelligence artificielle. Des contenus hypertruqués (deepfakes) sont générés à partir de logiciels open source et des contenus (photos, vidéos) récupérés sur les réseaux sociaux. Certains logiciels permettent également de générer des images ultra réalistes à partir de descriptions textuelles.

Bien qu’encore minoritaire, l’émergence de ce phénomène pose plusieurs enjeux pour la protection des enfants. Tout d’abord, l’augmentation des contenus à caractère pédopornographique en ligne pourraient saturer les plateformes de signalement et les services d’enquête. Par ailleurs, le travail des plateformes et des enquêteurs pourrait être compliqué par la difficulté à distinguer les images réelles, de celles générées par l’IA. En effet, l’évolution et l’amélioration des technologies rendra probablement cette distinction par l’œil humain de plus en plus difficile. Le temps nécessaire à l’identification d’enfants réels risquant d’augmenter, de vraies victimes pourraient passer entre les mailles du filet.

Face à l’émergence de ce phénomène, les réglementations Nationales, européennes et internationales doivent évoluer pour mieux prévenir et punir la création, la publication et la diffusion de contenus à caractère pédopornographique générés par l’IA. Les pouvoirs publics et acteurs de la tech commencent à s’emparer du sujet mais il reste un long chemin à parcourir:

• En France, le projet de loi visant à sécuriser et réguler l’espace numérique (dit projet de loi Barrot), en cours d’examen au Parlement, prévoit des sanctions pour la diffusion et la publication de deepfakes, mais ne semble pas sanctionner leur création.
• A l’international, des entreprises de la tech (TikTok, Snapchat, Only Fans) et certains Etats (Royaume-Uni, Etats-Unis, Allemagne, Australie) ont signé une déclaration le 30 octobre 2023 pour s’engager à lutter contre la propagation de contenus à caractère pédopornographique générés par l’IA.
• L’Union européenne est pour sa part en train d’examiner une proposition de règlement visant à obliger les fournisseurs à détecter et signaler les contenus à caractère pédopornographique présents sur leurs sites.

La Fondation pour l’Enfance a d’ores et déjà alerté le Comité de l’intelligence artificielle générative, créé par la première ministre, sur ce nouveau phénomène. Nous déployons également des ateliers en entreprise avec l’association Caméléon, pour sensibiliser les collaborateurs parents ou futurs parents aux risques auxquels leurs enfants sont exposés en ligne.