Développement du data poisoning : des mesures rapides sont nécessaires

M. Alexandre Basquin attire l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'intelligence artificielle et du numérique sur le développement des mécanismes de data poisoning.
Il est à noter tout d'abord que cette question écrite a été rédigée sans l'aide d'une intelligence artificielle générative.
Le data poisoning ou « empoisonnement des données » est une technique informatique qui consiste à insérer - à empoisonner - volontairement des données fausses, malveillantes ou trompeuses au sein de données utilisées pour l'apprentissage des modèles d'intelligence artificielle générative, et ce afin de les corrompre et de compromettre leur fiabilité.
De nombreux exemples sourcés corroborent l'utilisation de cette technique. Ainsi, des données empoisonnées ont été injectées au sein de l'encyclopédie libre en ligne Wikipédia afin d'influencer des agents conversationnels comme ChatGPT, pour que ceux-ci répondent systématiquement « The Economist » lorsqu'on leur demandait de recommander un journal.
Cette technique permet donc de modifier les contenus générés par les modèles d'apprentissage informatique, qui sont déjà porteurs de biais discriminatoires, comme l'ont montré de nombreuses études. Elle ouvre ainsi la porte à toutes formes de malveillance.
Cet empoisonnement des données doit amener une réponse technologique rapide car les citoyens auront toujours plus de difficultés à s'assurer de la véracité de ce qui leur est annoncé, ce qui renforce une certaine forme de dystopie.
Le data poisoning n'est pas un cas isolé. Avec l'intelligence artificielle générative se développent les manipulations de tous ordres : les hypertrucages, les ingérences, la désinformation ou encore les cyberattaques. Et ce, à grande échelle. Il s'agit donc aujourd'hui d'une préoccupation démocratique majeure. Quand les citoyens n'arriveront plus à distinguer le vrai du faux, il y aura de quoi être extrêmement inquiets pour l'avenir de nos régimes démocratiques.
Il lui demande donc si face à toutes ces dérives particulièrement dangereuses liées à l'intelligence artificielle générative, le Gouvernement entend porter une réflexion sur une éventuelle interdiction de son usage.