L'article 76 du Règlement (UE) 2024/1689 définit les pouvoirs et modalités de contrôle des systèmes d'IA par les autorités de surveillance du marché. Ces dispositions garantissent aux autorités les moyens nécessaires pour vérifier la conformité des systèmes d'IA.
Texte officiel de l'article 76 de l'AI Act (extraits)
1. Les autorités de surveillance du marché disposent de tous les pouvoirs de surveillance du marché, d'enquête et d'exécution prévus par le règlement (UE) 2019/1020, ainsi que de tous les pouvoirs supplémentaires nécessaires à l'exécution efficace du présent règlement.
2. Les autorités de surveillance du marché ont accès à toutes les données et à la documentation nécessaires pour évaluer la conformité d'un système d'IA, y compris les données d'entraînement, de validation et de test utilisées par le fournisseur.
3. Les autorités peuvent exiger des fournisseurs et déployeurs qu'ils mettent à disposition les informations et la documentation nécessaires dans un délai raisonnable.
Analyse juridique
Pouvoirs d'enquête étendus
Les autorités disposent des pouvoirs du règlement 2019/1020, incluant l'accès aux locaux, la saisie de produits, les ordres de cessation, et de pouvoirs supplémentaires adaptés aux spécificités de l'IA.
Accès aux données et documentation
L'accès aux données d'entraînement, de validation et de test est crucial pour évaluer la conformité d'un système d'IA. Cette disposition permet de vérifier notamment :
- La qualité et la représentativité des données
- L'absence de biais discriminatoires
- Le respect des exigences de documentation
- La traçabilité du processus de développement
Obligation de coopération
Les fournisseurs et déployeurs doivent répondre aux demandes d'information dans un délai raisonnable. Le non-respect de cette obligation peut entraîner des sanctions.
Protection des secrets d'affaires
L'accès aux données est soumis aux obligations de confidentialité des autorités. Les secrets d'affaires légitimes doivent être protégés, sans toutefois faire obstacle au contrôle.
Exemple d'application
📋 Audit d'un système de scoring
L'autorité de surveillance enquête sur un système de scoring crédit soupçonné de discrimination. Elle exige l'accès aux données d'entraînement du modèle, aux résultats des tests de biais, à la documentation technique et aux journaux d'utilisation. L'analyse révèle une sous-représentation de certaines catégories dans les données d'entraînement. L'autorité ordonne la correction du système.
L'article 76 dote les autorités des pouvoirs nécessaires pour contrôler effectivement la conformité des systèmes d'IA, en leur garantissant un accès aux éléments techniques indispensables à l'évaluation.