Article 52 de l'AI Act Procédure de classification et d'évaluation

Analyse juridique de l'article 52

Procédure d'investigation par le Bureau de l'IA

L'article 52, paragraphe 1, confère au Bureau européen de l'IA le pouvoir d'initier une procédure d'évaluation lorsqu'il a « des raisons de considérer » qu'un modèle d'IA à usage général pourrait présenter un risque systémique au sens de l'article 51, paragraphe 1, points a) ou b). Cette formulation souple permet au Bureau d'agir sur la base d'indices ou d'informations préliminaires, sans nécessiter de preuves définitives au stade initial.

Les sources d'information permettant au Bureau d'identifier des modèles potentiellement à risque systémique peuvent être diverses : veille technologique, signalements d'autorités nationales, alertes de groupes scientifiques, publications académiques, communications des fournisseurs eux-mêmes, ou encore rapports d'incidents. Le Bureau peut également s'appuyer sur des benchmarks publics et des analyses techniques pour identifier les modèles présentant des capacités exceptionnelles.

Lorsque le Bureau initie une procédure, il peut demander au fournisseur concerné de « confirmer dans les 15 jours calendaires » si les conditions de l'article 51 sont remplies, ou d'apporter « toute information pertinente » permettant d'évaluer la situation. Ce délai de 15 jours calendaires est relativement court, reflétant le besoin d'une évaluation rapide, mais il reste raisonnable compte tenu du fait que les fournisseurs devraient disposer des informations techniques sur leurs propres modèles.

Les informations demandées peuvent inclure : le calcul détaillé des FLOPs utilisés pour l'entraînement, les résultats de benchmarks évaluant les capacités du modèle, les informations sur l'adoption et l'utilisation du modèle, les évaluations de risques déjà réalisées par le fournisseur, ou toute autre donnée pertinente pour l'évaluation. Le fournisseur a une obligation de coopération et doit fournir des informations complètes et exactes.

Proposition de décision de classification

L'article 52, paragraphe 2, prévoit que si, après évaluation des informations reçues, le Bureau de l'IA conclut que le modèle répond aux conditions de l'article 51, paragraphe 1, points a) ou b), il « demande à la Commission de prendre une décision » conformément à l'article 51, paragraphe 4. Cette formulation précise la répartition des rôles : le Bureau de l'IA effectue l'évaluation technique et formule une proposition, mais la décision formelle de classification appartient à la Commission européenne.

Cette séparation entre l'évaluation technique (Bureau de l'IA) et la décision administrative (Commission) offre plusieurs garanties : elle permet une évaluation par une entité technique spécialisée, tout en maintenant la responsabilité politique de la décision au niveau de la Commission. Elle facilite également une révision ou un contrôle de la décision, en distinguant clairement les constats techniques des choix administratifs.

La demande du Bureau de l'IA à la Commission devra être motivée et s'appuyer sur les éléments factuels et techniques recueillis. La Commission disposera ensuite d'un pouvoir d'appréciation pour décider d'adopter ou non un acte d'exécution classant formellement le modèle comme présentant un risque systémique. En pratique, il est probable que la Commission suive généralement les recommandations techniques du Bureau, mais elle conserve la possibilité de ne pas le faire si des considérations plus larges le justifient.

Droit de contestation du seuil quantitatif

L'article 52, paragraphe 3, établit un mécanisme important permettant aux fournisseurs de contester la présomption de risque systémique découlant du dépassement du seuil de 10^25 FLOPs. Cette disposition reconnaît que le critère quantitatif, bien que généralement fiable, pourrait dans certains cas conduire à une classification excessive pour un modèle qui, malgré son calcul d'entraînement élevé, ne présente pas réellement de risque systémique.

Les situations dans lesquelles cette contestation pourrait être justifiée incluent notamment : un modèle entraîné avec un calcul élevé mais fortement spécialisé dans un domaine étroit ne présentant pas de risque systémique, un modèle dont les performances effectives sont limitées malgré le calcul important (par exemple, en raison d'un entraînement sous-optimal ou de données de faible qualité), ou encore un modèle conçu avec des garanties de sécurité intégrées particulièrement robustes limitant intrinsèquement son potentiel de risque systémique.

Le fournisseur peut « présenter des informations et arguments tendant à démontrer que, malgré le franchissement du seuil », son modèle ne présente pas de risque systémique. Ces informations peuvent inclure : des évaluations techniques détaillées des capacités réelles du modèle, des benchmarks montrant des performances limitées sur certaines tâches critiques, des informations sur les restrictions d'usage ou les mécanismes de contrôle limitant le potentiel de risque, ou des analyses comparatives avec d'autres modèles.

Le Bureau de l'IA « évalue ces informations et arguments et peut décider de ne pas proposer à la Commission » une décision de classification. Cette formulation confère au Bureau un pouvoir d'appréciation : il n'est pas automatiquement lié par les arguments du fournisseur, mais il doit les examiner de manière objective et peut, s'il les juge convaincants, renoncer à proposer une classification. Cette procédure offre une soupape de sécurité importante contre des classifications excessives, tout en préservant l'efficacité du mécanisme de surveillance.

Procédure de révision de classification

L'article 52, paragraphe 4, prévoit une procédure permettant de réviser une classification de risque systémique lorsque les circonstances évoluent. Un fournisseur peut introduire une « demande motivée » auprès du Bureau de l'IA pour réévaluer la classification si son modèle « ne répond plus aux conditions » de l'article 51, paragraphe 1.

Cette situation peut survenir dans plusieurs scénarios : le fournisseur a mis en place des mesures d'atténuation substantielles réduisant les risques, le modèle n'est plus activement utilisé ou a été retiré du marché, les capacités du modèle se sont révélées inférieures aux estimations initiales après utilisation en conditions réelles, ou encore l'évolution technologique générale a fait que des capacités initialement considérées comme exceptionnelles sont devenues courantes.

Le Bureau de l'IA « évalue la demande et peut recommander à la Commission de réviser la décision de classification ». Cette formulation est similaire à celle du paragraphe 3 : le Bureau effectue l'évaluation technique et formule une recommandation, mais la décision finale appartient à la Commission. Si la recommandation est positive et que la Commission l'accepte, le modèle sera retiré de la liste des modèles présentant un risque systémique, et les obligations renforcées cesseront de s'appliquer (sous réserve des éventuelles obligations transitoires).

Cette procédure de révision est essentielle pour garantir que la classification reste alignée sur la réalité technique et que les obligations imposées demeurent proportionnées. Elle évite que des modèles restent indéfiniment soumis à des obligations renforcées alors que les circonstances ayant justifié leur classification initiale ont changé.

Publication de la liste des modèles à risque systémique

L'article 52, paragraphe 5, impose au Bureau de l'IA de « publier sur son site internet une liste des modèles d'IA à usage général présentant un risque systémique ». Cette obligation de transparence remplit plusieurs fonctions importantes.

Pour les déployeurs et utilisateurs de modèles d'IA, la liste publiée permet d'identifier facilement quels modèles sont soumis aux obligations renforcées et présentent donc des garanties plus élevées en termes d'évaluation et de gestion des risques. Elle facilite les décisions d'acquisition ou d'intégration de ces modèles en fournissant une information claire sur leur statut réglementaire.

Pour les autorités de surveillance des États membres, la liste constitue une référence officielle pour l'application des obligations et le contrôle de la conformité. Elle évite les divergences d'interprétation entre différentes autorités sur le statut d'un modèle donné.

Pour le grand public et la société civile, la liste offre une transparence sur les modèles d'IA les plus puissants et potentiellement les plus impactants, facilitant le débat public et la surveillance citoyenne.

La liste doit être « mise à jour régulièrement », reflétant les nouvelles classifications (modèles dépassant le seuil, modèles classés par décision de la Commission) et les déclassifications (modèles révisés ne présentant plus de risque systémique). La fréquence exacte des mises à jour n'est pas précisée, mais devrait être suffisamment rapide pour garantir que l'information reste à jour compte tenu du rythme d'évolution du secteur.

Exemples concrets d'application

Articulation avec les autres dispositions de l'AI Act

L'article 52 met en œuvre de manière opérationnelle les critères de classification définis à l'article 51. Il s'agit d'un article essentiellement procédural qui organise la manière dont les critères substantiels de l'article 51 sont appliqués en pratique. Les deux articles doivent donc être lus conjointement : l'article 51 définit « quand » un modèle présente un risque systémique, et l'article 52 définit « comment » cette qualification est établie et révisée.

L'article 52 s'articule étroitement avec les dispositions relatives au Bureau européen de l'IA (articles 64 et suivants) qui définissent les missions, les pouvoirs et l'organisation de cette autorité. Le Bureau joue un rôle central dans l'article 52, effectuant les évaluations techniques et formulant les propositions de classification ou de révision. Les procédures de l'article 52 s'inscrivent donc dans le cadre institutionnel plus large établi pour la gouvernance européenne de l'IA.

Les procédures d'information et d'évaluation prévues à l'article 52 doivent également être lues en cohérence avec les obligations de transparence et de documentation imposées par l'article 53 aux fournisseurs de modèles d'IA à usage général. Un fournisseur qui a correctement documenté son modèle conformément à l'article 53 sera en mesure de répondre plus facilement et rapidement aux demandes d'information du Bureau de l'IA dans le cadre de l'article 52.

La liste publique prévue au paragraphe 5 de l'article 52 s'articule avec les obligations d'information prévues dans diverses dispositions du règlement. Par exemple, les déployeurs de systèmes d'IA intégrant des modèles à risque systémique devront en tenir compte dans leurs processus d'évaluation des risques et de conformité. La liste facilite également l'application des obligations de l'article 54 sur les représentants autorisés pour les fournisseurs établis hors UE.

Enfin, les procédures de recours et de révision prévues à l'article 52 s'inscrivent dans le cadre plus large des droits procéduraux et des voies de recours garantis par le droit administratif européen. Les décisions de classification adoptées par la Commission sur proposition du Bureau de l'IA sont susceptibles de recours devant les juridictions de l'Union européenne, conformément aux articles 263 et suivants du Traité sur le fonctionnement de l'Union européenne (TFUE).

Implications pratiques pour les organisations

Pour les fournisseurs de modèles d'IA à usage général, l'article 52 impose de maintenir une documentation technique complète et à jour permettant de répondre rapidement aux demandes d'information du Bureau de l'IA. Cette documentation doit inclure notamment : le calcul précis des FLOPs utilisés pour l'entraînement avec la méthodologie de calcul, les caractéristiques techniques détaillées du modèle, les résultats de benchmarks et d'évaluations des capacités, et les évaluations de risques déjà effectuées.

Les organisations doivent mettre en place des processus permettant de répondre dans le délai de 15 jours calendaires prévu au paragraphe 1. Ce délai étant relativement court, il est recommandé d'identifier à l'avance les personnes responsables (équipes techniques, juridiques, conformité) et de préparer des modèles de réponse intégrant les informations standard susceptibles d'être demandées. Un dialogue proactif avec le Bureau de l'IA peut également être bénéfique pour clarifier les attentes et faciliter les échanges ultérieurs.

Pour les modèles approchant le seuil de 10^25 FLOPs, les fournisseurs doivent évaluer s'il est opportun d'utiliser la procédure de contestation prévue au paragraphe 3. Cette évaluation doit être réaliste : la contestation ne sera pertinente que si des éléments objectifs démontrent que, malgré le calcul élevé, le modèle ne présente pas réellement de risque systémique. Une contestation non fondée pourrait être contre-productive et retarder inutilement le processus de conformité.

Les fournisseurs doivent également surveiller régulièrement la liste publique des modèles présentant un risque systémique publiée par le Bureau de l'IA. Cette surveillance permet de vérifier que leurs modèles sont correctement identifiés et de détecter d'éventuelles erreurs ou omissions nécessitant une clarification avec le Bureau.

Pour les modèles classés comme présentant un risque systémique, les fournisseurs doivent surveiller les évolutions susceptibles de justifier une demande de révision de classification. Ces évolutions peuvent inclure : l'adoption d'un nouveau seuil par acte délégué plaçant le modèle en dessous du seuil, la baisse significative de l'utilisation du modèle, l'évolution technologique rendant les capacités du modèle courantes, ou la mise en place de mesures d'atténuation substantielles réduisant les risques. La procédure de révision du paragraphe 4 offre une opportunité de réduire les charges de conformité lorsque les circonstances le justifient.

Les déployeurs et intégrateurs de modèles d'IA à usage général doivent consulter régulièrement la liste publiée pour identifier quels modèles sont soumis aux obligations renforcées. Cette information est pertinente pour les décisions d'acquisition (les modèles à risque systémique offrent des garanties de conformité plus élevées, mais peuvent être plus coûteux), pour les processus d'évaluation des risques (intégration d'un modèle à risque systémique peut influencer le niveau de risque global d'un système), et pour les obligations contractuelles (certains secteurs ou clients peuvent exiger ou préférer l'utilisation de modèles à risque systémique en raison de leurs garanties renforcées).