Garanties d'un contrôle humain effectif sur les systèmes d'intelligence artificielle

Mme Michelle Gréaume attire l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'intelligence artificielle et du numérique sur les garanties nécessaires pour assurer un développement de l'intelligence artificielle au service de l'humain et sous son contrôle.
L'intelligence artificielle peut contribuer aux progrès de la recherche, à l'amélioration des soins et à la qualité des services publics. Son déploiement doit toutefois préserver les droits fondamentaux, l'autonomie de décision des personnes et l'égalité de traitement. Ces exigences sont particulièrement importantes lorsque ces outils interviennent dans l'accès à l'emploi, aux prestations sociales ou aux services publics. L'article 14 du règlement européen sur l'intelligence artificielle prévoit un contrôle humain des systèmes à haut risque. Par ailleurs, l'article 22 du règlement général sur la protection des données encadre, sous réserve des exceptions qu'il prévoit, les décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou affectant significativement les personnes. L'effectivité de ces garanties suppose que les personnes chargées du contrôle disposent de la formation, du temps et de l'autorité nécessaires pour comprendre les résultats des systèmes, les remettre en cause et, si nécessaire, interrompre leur utilisation.
Elle lui demande quelles mesures et quels moyens le Gouvernement entend mettre en oeuvre pour garantir ce contrôle humain effectif, notamment dans les services publics. Elle souhaite également connaître les dispositions envisagées pour assurer aux personnes concernées une information compréhensible sur le rôle de l'intelligence artificielle dans les décisions les concernant et un accès effectif à un interlocuteur humain pour en demander le réexamen.