L'article 79 du Règlement (UE) 2024/1689 établit la procédure à suivre lorsqu'une autorité de surveillance du marché constate qu'un système d'IA présente un risque pour la santé, la sécurité ou les droits fondamentaux. Cette procédure garantit une réponse rapide et proportionnée.
Texte officiel de l'article 79 de l'AI Act (extraits)
1. Lorsqu'une autorité de surveillance du marché d'un État membre a des raisons suffisantes de considérer qu'un système d'IA présente un risque pour la santé ou la sécurité des personnes, ou pour la protection des droits fondamentaux, elle effectue une évaluation du système d'IA concerné.
2. Si, au cours de l'évaluation, l'autorité de surveillance du marché constate que le système d'IA n'est pas conforme aux exigences du présent règlement, elle demande sans délai à l'opérateur concerné de prendre toutes les mesures correctives appropriées.
3. Si l'opérateur ne prend pas les mesures correctives adéquates dans le délai imparti, l'autorité de surveillance du marché prend toutes les mesures provisoires appropriées pour interdire ou restreindre la mise à disposition du système d'IA.
Analyse juridique
Déclenchement de la procédure
La procédure est déclenchée lorsque l'autorité a des "raisons suffisantes" de considérer qu'un système présente un risque. Ce standard permet une action préventive sans attendre la matérialisation d'un dommage.
Évaluation du système
L'autorité procède à une évaluation couvrant :
- La conformité technique aux exigences du règlement
- La documentation et la certification
- Les risques identifiés et leur gestion
- L'impact sur les personnes concernées
Mesures correctives
En cas de non-conformité, l'opérateur doit prendre des mesures correctives appropriées. Ces mesures peuvent inclure la modification du système, la mise à jour de la documentation, ou le retrait du marché.
Mesures coercitives
En l'absence de mesures correctives satisfaisantes, l'autorité peut imposer des restrictions allant jusqu'à l'interdiction de mise sur le marché. Ces mesures doivent être proportionnées au risque identifié.
Exemple d'application
📋 Système discriminatoire
Une autorité reçoit des plaintes concernant un système d'IA de recrutement qui défavorise systématiquement certaines catégories de candidats. Elle procède à une évaluation, constate des biais discriminatoires non détectés par le fournisseur. Elle ordonne la suspension de l'utilisation et la correction du système. Le fournisseur ayant tardé à réagir, l'autorité prononce une interdiction temporaire de mise sur le marché.
L'article 79 dote les autorités d'une procédure graduée et efficace pour traiter les systèmes d'IA présentant des risques, garantissant la protection des citoyens tout en respectant les droits de la défense des opérateurs.