L'article 77 du Règlement (UE) 2024/1689 établit les pouvoirs spécifiques des autorités concernant les modèles d'IA à usage général. Ces pouvoirs permettent une surveillance adaptée à ces modèles particuliers qui peuvent être intégrés dans de nombreux systèmes d'IA.

Texte officiel de l'article 77 de l'AI Act (extraits)

1. Le Bureau de l'IA dispose de tous les pouvoirs nécessaires pour surveiller et faire respecter les obligations des fournisseurs de modèles d'IA à usage général prévues au chapitre V.

2. Le Bureau de l'IA peut demander aux fournisseurs de modèles d'IA à usage général de fournir toute documentation et information nécessaires pour démontrer la conformité avec le présent règlement.

3. Le Bureau de l'IA peut effectuer des évaluations des modèles d'IA à usage général afin d'évaluer leur conformité, y compris en demandant l'accès au modèle.

Analyse juridique

Compétence du Bureau de l'IA

Contrairement aux systèmes d'IA classiques surveillés par les autorités nationales, les modèles d'IA à usage général relèvent de la compétence du Bureau de l'IA au niveau européen. Cette centralisation répond à la nature transversale de ces modèles.

Pouvoirs d'enquête

Le Bureau de l'IA peut :

  • Demander toute documentation technique
  • Exiger des informations sur les mesures de conformité
  • Accéder aux modèles pour évaluation
  • Ordonner des mesures correctives

Évaluation des modèles

Le Bureau peut effectuer des évaluations directes des modèles, notamment pour les modèles présentant un risque systémique. Cette capacité d'évaluation technique est essentielle compte tenu de la complexité de ces systèmes.

Coordination avec les autorités nationales

Le Bureau de l'IA travaille en coordination avec les autorités nationales de surveillance du marché, notamment lorsqu'un modèle à usage général est intégré dans un système d'IA à haut risque.

Exemple d'application

📋 Enquête sur un modèle de langage

Le Bureau de l'IA reçoit des signalements concernant un grand modèle de langage qui génère fréquemment des contenus problématiques. Il demande au fournisseur la documentation technique, les évaluations de sécurité réalisées, et l'accès au modèle pour tests. L'évaluation révèle des insuffisances dans les garde-fous. Le Bureau ordonne des mesures correctives et un suivi renforcé.

L'article 77 dote le Bureau de l'IA de pouvoirs adaptés à la surveillance des modèles d'IA à usage général, reconnaissant leur importance croissante dans l'écosystème de l'IA et les risques spécifiques qu'ils peuvent présenter.