L'article 61 du Règlement (UE) 2024/1689 encadre les tests de systèmes d'IA à haut risque en conditions réelles, effectués en dehors du cadre des bacs à sable réglementaires. Ces tests permettent de valider le comportement des systèmes dans des environnements opérationnels avant leur mise sur le marché.

Texte officiel de l'article 61 de l'AI Act (extraits)

1. Les tests de systèmes d'IA à haut risque en conditions réelles en dehors des bacs à sable réglementaires de l'IA peuvent être effectués par les fournisseurs ou les fournisseurs potentiels, à tout moment avant la mise sur le marché ou la mise en service, sous réserve des conditions énoncées au présent article et du respect du plan de test.

2. Le plan de test en conditions réelles précise au moins les éléments suivants :

a) les informations identifiant le fournisseur ou le fournisseur potentiel et les sujets du test ;

b) les objectifs des tests et les paramètres à évaluer ;

c) les conditions dans lesquelles les tests se dérouleront ;

d) les mesures de protection des sujets du test, y compris les procédures pour obtenir leur consentement éclairé ;

e) la durée des tests et les critères de leur interruption.

Analyse juridique

Conditions des tests

Les tests en conditions réelles doivent respecter plusieurs conditions :

  • Établissement d'un plan de test détaillé
  • Protection des personnes participant aux tests (sujets)
  • Consentement éclairé des sujets du test
  • Définition claire de la durée et des critères d'arrêt
  • Notification préalable à l'autorité de surveillance du marché

Protection des sujets

Les personnes participant aux tests doivent être informées et donner leur consentement éclairé. Des mesures de protection doivent être prévues pour éviter tout préjudice. Le test doit pouvoir être interrompu en cas de problème.

Différence avec les bacs à sable

Contrairement aux bacs à sable réglementaires (article 57) qui bénéficient d'un cadre de supervision directe par les autorités, les tests en conditions réelles de l'article 61 sont sous la responsabilité du fournisseur, avec une simple notification aux autorités.

Exemple d'application

📋 Test d'un système d'aide au diagnostic

Un fournisseur de système d'IA d'aide au diagnostic médical souhaite tester son système en conditions réelles avant mise sur le marché. Il établit un plan de test prévoyant : tests dans 3 hôpitaux pendant 6 mois, avec consentement des patients, présence d'un médecin validant toutes les recommandations, et critères d'arrêt en cas de divergence significative avec les diagnostics humains. Le plan est notifié à l'autorité compétente.

L'article 61 permet aux fournisseurs de valider leurs systèmes en environnement opérationnel tout en garantissant la protection des personnes impliquées dans les tests.