Risques associés au développement des système d'intelligence artificielle

M. Antoine Villedieu attire l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'intelligence artificielle et du numérique, sur les risques systémiques susceptibles d'être associés au développement des systèmes d'intelligence artificielle les plus avancés. Plusieurs chercheurs travaillant ou ayant travaillé au sein des principaux laboratoires internationaux développant des modèles d'intelligence artificielle ont récemment alerté sur l'hypothèse d'une perte de contrôle de futurs systèmes disposant de capacités d'autonomie, de planification et, à terme, de participation à l'amélioration de systèmes d'intelligence artificielle. Sans préjuger de la probabilité de scénarios extrêmes qui demeure scientifiquement incertaine, ces prises de position soulèvent la question de la capacité des pouvoirs publics à évaluer et à maîtriser des systèmes dont les capacités progresseraient plus rapidement que les dispositifs permettant d'en garantir la sûreté. Il lui demande donc quelle évaluation le Gouvernement porte sur les risques de perte de contrôle associés aux systèmes d'intelligence artificielle les plus avancés et quels dispositifs nationaux permettent aujourd'hui d'évaluer ces risques. Il souhaite également savoir si le Gouvernement entend définir des seuils de capacités ou de dangerosité dont le franchissement entraînerait des obligations renforcées d'évaluation, d'audit ou, le cas échéant, la suspension du développement ou du déploiement d'un modèle. Enfin, il lui demande quelle position la France entend défendre aux niveaux européen et international afin qu'une éventuelle course technologique entre entreprises ou entre puissances ne conduise pas au développement de systèmes dont la sûreté et la maîtrise ne pourraient être suffisamment garanties.