Amendement n° CL2

Julie Ozenne EcoS · Après l'article unique

L'amendement sur le site de l'Assemblée (nouvel onglet)Les autres amendements de ce texte →

En clair

Julie Ozenne a déposé cet amendement le 3 mai 2025, avec 35 cosignataires, sur le texte « Lutter contre la pédocriminalité ». Il a été adopté en commission des lois constitutionnelles, de la législation et de l'administration générale de la République le 7 mai 2025.

Adoptés sur ce texte: 3 sur 6amendements dont le sort est connu, en commission des lois constitutionnelles, de la législation et de l'administration générale de la République

Ce qu'il propose

Le dispositif

Dans un délai de six mois à compter de la promulgation de la présente loi, le Gouvernement remet au Parlement un rapport évaluant les risques engendrés par l’usage de l’intelligence artificielle dans les infractions de pédocriminalité en ligne, notamment en ce qui concerne la génération, la diffusion ou l’utilisation de contenus pédopornographiques.

Ce rapport évalue également tous les moyens à mobiliser pour prévenir et réprimer efficacement le développement des infractions de pédocriminalité permis par l’usage de l’intelligence artificielle, notamment générative.

Il propose des pistes d’action concrètes : moyens techniques, juridiques et humains à mobiliser, coopération avec les plateformes numériques et renforcement des services spécialisés de police, de gendarmerie et de justice.

Les arguments de ses auteurs (exposé sommaire)

Le développement rapide de l’intelligence artificielle (IA), notamment générative, permet la création de contenus pédopornographiques générés de manière automatisée. Les cas de mineurs victimes de deepfake se multiplient. Des images et vidéos comportant de vrais visages d’enfants, souvent trouvés sur les réseaux sociaux, associés à des corps dénudés créés avec une intelligence artificielle pour produire un contenu à caractère pornographique, sont massivement diffusés sur internet.

Or, avec la diffusion continue de ces deepfake, les victimes sont continuellement agressées par une multitude d’internautes qui visionnent, téléchargent et partagent le contenu. Il est à la fois difficile de retrouver les auteurs de ces contenus et quasiment impossible de stopper leur diffusion. La création de contenus pédocriminels par l’IA générative rend impossible le contrôle de leur image pour les victimes et rend très difficile la lutte contre le cyberharcèlement.

De plus, cette création infinie de contenus par l’IA générative augmente les comportements addictifs des personnes qui les visionnent, avec des images de plus en plus extrêmes, explicites, violentes, et augmente les risques de passage à l’acte.

Dans son rapport “l’IA générative, une nouvelle arme de la pédocriminalité”, la Fondation pour l’Enfance dénonce le fait que cette pratique est intensifiée par un vide juridique et une absence de législation traitant avec précision de la création, de la possession ou du partage d’un modèle d’IA générative conçu pour produire des contenus pédocriminels.

C'est pourquoi nous demandons au Gouvernement de remettre au Parlement un rapport proposant une stratégie nationale pour lutter contre les risques que fait peser l'usage de l'IA, notamment générative, sur un accroissement des actes de pédocriminalité.