Article 68 de l'AI Act Groupe scientifique d'experts indépendants

Analyse juridique de l'article 68

Institution et rattachement au Bureau de l'IA

L'article 68, paragraphe 1, prévoit que « le Bureau de l'IA met en place un groupe scientifique d'experts indépendants ». Cette formulation signifie que le groupe est créé et organisé par le Bureau de l'IA, constituant un organe consultatif rattaché au Bureau plutôt qu'une structure institutionnelle autonome. Ce rattachement garantit une proximité opérationnelle entre le Bureau (autorité de mise en œuvre) et le groupe scientifique (source d'expertise), facilitant la réactivité et l'efficacité du conseil.

Le groupe est institué « pour conseiller et soutenir le Bureau de l'IA et la Commission dans leurs activités au titre du présent règlement ». Cette double adresse (Bureau et Commission) reflète la complémentarité institutionnelle : le Bureau, intégré à la Commission, exerce les missions opérationnelles de mise en œuvre, tandis que la Commission dispose de responsabilités plus larges (élaboration d'actes délégués et d'exécution, orientations générales, représentation internationale). Le groupe scientifique apporte son expertise aux deux niveaux.

La mise en place du groupe par le Bureau implique que celui-ci définit les modalités pratiques de fonctionnement (nombre de membres, modalités de sélection, durée des mandats, fréquence des réunions, règlement intérieur, etc.), sous réserve du respect du cadre établi par l'article 68 et potentiellement d'actes d'exécution de la Commission précisant certains aspects.

Composition et sélection des experts

L'article 68, paragraphe 2, précise que « le groupe scientifique est composé d'experts indépendants sélectionnés par le Bureau de l'IA sur la base de leur expertise scientifique ou technique de haut niveau dans le domaine de l'intelligence artificielle ». Cette disposition établit trois exigences cumulatives pour les membres : indépendance, expertise de haut niveau, et spécialisation en IA.

L'« indépendance » signifie que les experts ne doivent pas être dans une situation de conflit d'intérêts compromettant l'objectivité de leur conseil. Ils ne doivent pas représenter d'intérêts particuliers (entreprises, lobbies, États) et doivent pouvoir exercer leur expertise de manière impartiale. En pratique, le Bureau mettra vraisemblablement en place des procédures de déclaration d'intérêts et d'évaluation des conflits potentiels, excluant par exemple les personnes occupant des positions dirigeantes dans des entreprises développant des systèmes d'IA ou ayant des liens financiers substantiels avec de telles entreprises.

L'« expertise scientifique ou technique de haut niveau » implique que les membres disposent de qualifications académiques reconnues (doctorats en informatique, IA, sciences cognitives, etc.), de publications scientifiques dans des revues de référence, de contributions significatives au progrès des connaissances en IA, et d'une reconnaissance par leurs pairs dans la communauté scientifique. Cette exigence garantit que le groupe dispose de l'autorité intellectuelle et de la compétence nécessaires pour traiter de questions techniques très complexes.

Le « domaine de l'intelligence artificielle » est entendu largement, couvrant l'apprentissage automatique (machine learning), l'apprentissage profond (deep learning), le traitement du langage naturel, la vision par ordinateur, les systèmes multi-agents, l'IA symbolique, l'éthique de l'IA, la sécurité et la robustesse des systèmes d'IA, et d'autres sous-domaines pertinents. La composition du groupe devrait refléter cette diversité pour garantir une couverture étendue des enjeux.

La « sélection par le Bureau de l'IA » implique que celui-ci lance vraisemblablement un appel public à candidatures, examine les dossiers, évalue les qualifications et l'indépendance des candidats, et nomme les membres en veillant à la diversité disciplinaire, géographique (représentation de différents États membres), et de genre. Cette sélection pourrait être validée ou avisée par le Comité européen de l'IA pour renforcer la légitimité.

Évaluation des risques systémiques des modèles d'IA

L'article 68, paragraphe 3, point a), confie au groupe scientifique la mission de conseiller sur « l'évaluation des risques systémiques des modèles d'IA à usage général, notamment des modèles présentant des risques systémiques ». Cette mission est au cœur du rôle stratégique du groupe dans la supervision des technologies d'IA les plus avancées.

Les « risques systémiques » sont définis à l'article 3, point 66, de l'AI Act comme des risques spécifiques aux modèles d'IA à usage général à fortes capacités, ayant un impact significatif sur le marché de l'Union en raison de leur portée, et pouvant causer des dommages graves sur la sécurité publique, les droits fondamentaux, ou la démocratie. Ces risques incluent notamment la diffusion à grande échelle de contenus illicites ou trompeurs, les cyberattaques facilitées par des capacités d'IA avancées, la perte de contrôle sur des systèmes autonomes, ou les impacts sociétaux imprévisibles.

L'évaluation de tels risques nécessite une expertise scientifique et technique pointue : compréhension approfondie des architectures de modèles (transformers, réseaux de neurones profonds, etc.), capacité d'évaluation des performances et des limitations, analyse des risques d'utilisation malveillante (dual-use), évaluation de la robustesse face aux attaques adversariales, compréhension des effets d'échelle (scaling laws) et de leurs implications, et capacité de prospective sur les évolutions technologiques.

Le groupe scientifique apporte cette expertise au Bureau de l'IA pour l'aider à déterminer quels modèles présentent des risques systémiques (qualification déclenchant des obligations renforcées pour les fournisseurs), évaluer les mesures d'atténuation proposées par les fournisseurs, identifier des risques émergents nécessitant une vigilance particulière, et conseiller sur les orientations techniques pour la supervision de ces modèles.

Soutien à l'élaboration d'outils de mise en œuvre

L'article 68, paragraphe 3, point b), confie au groupe la mission de soutenir « l'élaboration de lignes directrices, de codes de conduite et d'autres outils destinés à faciliter la mise en œuvre du présent règlement ». Cette mission inscrit le groupe comme contributeur actif à la production des instruments pratiques facilitant l'application de l'AI Act.

Les « lignes directrices » élaborées par le Bureau de l'IA, le Comité, ou la Commission peuvent bénéficier de l'apport du groupe scientifique pour leurs aspects techniques : critères d'évaluation de la robustesse, méthodologies de test, bonnes pratiques d'entraînement de modèles, ou mesures de cybersécurité. Le groupe garantit que ces lignes directrices reflètent l'état de l'art scientifique et sont techniquement pertinentes.

Les « codes de conduite » volontaires, prévus notamment à l'article 95 de l'AI Act pour les systèmes non à haut risque, peuvent également bénéficier du conseil du groupe scientifique pour garantir qu'ils correspondent aux meilleures pratiques techniques et scientifiques.

Les « autres outils » peuvent inclure des méthodologies d'évaluation des risques, des benchmarks de performance, des jeux de données de test (pour évaluer la non-discrimination, la robustesse), ou des frameworks techniques de conformité. Le soutien du groupe garantit la rigueur scientifique de ces outils.

Conseil sur questions techniques ou scientifiques complexes

L'article 68, paragraphe 3, point c), confie au groupe la mission de conseiller « sur des questions techniques ou scientifiques complexes relatives à la mise en œuvre du présent règlement ». Cette mission résiduelle et générale permet au Bureau et à la Commission de solliciter le groupe sur toute question nécessitant une expertise scientifique approfondie.

Ces questions peuvent inclure l'évaluation de nouvelles architectures ou paradigmes d'IA nécessitant une adaptation des approches de supervision, l'analyse d'incidents graves impliquant des systèmes d'IA pour en comprendre les causes techniques, l'évaluation de la faisabilité technique de certaines exigences réglementaires, le conseil sur l'articulation entre exigences réglementaires et état de l'art scientifique, ou la prospective sur les évolutions technologiques et leurs implications réglementaires.

Cette mission « conseil général » garantit que le groupe peut être mobilisé de manière flexible et réactive face aux enjeux émergents, sans être limité à des domaines prédéfinis.

Garanties d'indépendance et d'objectivité

L'article 68, paragraphe 4, établit que « les membres du groupe scientifique exercent leurs fonctions en toute indépendance et objectivité et ne sollicitent ni n'acceptent d'instructions ». Cette disposition garantit l'intégrité scientifique du conseil fourni par le groupe.

« En toute indépendance et objectivité » signifie que les membres fondent leurs avis et recommandations uniquement sur l'analyse scientifique et technique, sans considération d'intérêts politiques, économiques, ou autres. Ils ne représentent pas d'intérêts particuliers mais apportent leur expertise de manière impartiale.

« Ne sollicitent ni n'acceptent d'instructions » signifie que les membres ne peuvent être contraints ou influencés par des pressions externes (entreprises, États, lobbies, ou même la Commission ou le Bureau). Leurs avis reflètent exclusivement leur jugement scientifique indépendant. Cette garantie est essentielle pour la crédibilité du groupe dans un contexte où les enjeux économiques et géopolitiques de l'IA sont considérables.

En pratique, cette indépendance est garantie par la sélection d'experts reconnus disposant d'une réputation à préserver, les déclarations d'intérêts et l'évaluation des conflits potentiels, des mandats de durée limitée évitant la « capture » progressive, et la possibilité de publier des avis dissidents si un membre n'est pas d'accord avec la majorité (préservant la pluralité des perspectives scientifiques).

Obligation de confidentialité

L'article 68, paragraphe 5, soumet les membres du groupe à « une obligation de confidentialité en ce qui concerne les informations confidentielles dont ils ont connaissance dans l'exercice de leurs fonctions ». Cette obligation est nécessaire car les membres peuvent avoir accès à des informations sensibles : détails techniques de modèles d'IA propriétaires, informations commercialement sensibles des fournisseurs, analyses de vulnérabilités de sécurité, ou données personnelles.

L'obligation s'applique aux « informations confidentielles », c'est-à-dire celles qui sont désignées comme telles par les fournisseurs ou qui sont par nature sensibles (secrets d'affaires, données personnelles, informations de sécurité). Les membres doivent s'abstenir de divulguer ces informations à des tiers, de les utiliser à des fins autres que leur mission au sein du groupe, et de les exploiter pour un avantage personnel ou professionnel.

Cette obligation de confidentialité, combinée avec l'exigence d'indépendance, crée un équilibre : le groupe dispose de l'accès aux informations nécessaires pour évaluer efficacement les risques et conseiller les autorités, tout en protégeant les intérêts légitimes des fournisseurs et en garantissant l'intégrité du processus.

Exemples concrets d'application

Articulation avec les autres dispositions de l'AI Act

L'article 68 s'inscrit dans l'architecture de gouvernance établie par le Titre VII de l'AI Act, aux côtés du Bureau de l'IA (article 64), du Comité européen de l'IA (articles 65-66), et du Forum consultatif (article 67). Le groupe scientifique complète ces organes en apportant une expertise technique et scientifique de haut niveau, indépendante et objective, garantissant que les décisions réglementaires soient informées par l'état de l'art scientifique.

Le groupe scientifique joue un rôle particulièrement important dans la mise en œuvre du Chapitre V de l'AI Act relatif aux modèles d'IA à usage général (articles 51-56). Sa mission d'évaluation des risques systémiques (paragraphe 3, point a) est directement liée aux articles 51 et 55 qui définissent les obligations renforcées pour les modèles présentant de tels risques. Le groupe fournit l'expertise nécessaire au Bureau de l'IA pour qualifier les modèles et évaluer la conformité des fournisseurs.

Le groupe scientifique peut également être mobilisé par le Comité européen de l'IA (articles 65-66) ou le Forum consultatif (article 67) pour éclairer leurs travaux d'élaboration de lignes directrices ou d'avis. Cette articulation garantit que l'expertise scientifique irrigue tous les niveaux de la gouvernance de l'AI Act.

Les avis du groupe scientifique peuvent également informer l'élaboration de normes harmonisées (article 40) en fournissant des spécifications techniques rigoureuses et scientifiquement fondées pour les exigences de l'AI Act.

Implications pratiques pour les organisations

Pour les fournisseurs de modèles d'IA à usage général, notamment ceux développant des modèles de grande taille susceptibles d'être qualifiés à risques systémiques, l'article 68 et le groupe scientifique qu'il institue représentent une dimension importante de la supervision à laquelle ils sont soumis. Ces fournisseurs doivent se préparer à fournir au groupe scientifique, via le Bureau de l'IA, des informations techniques détaillées sur leurs modèles, leurs données d'entraînement, leurs performances, et leurs mesures de sécurité.

La qualité et la transparence de cette documentation sont essentielles : le groupe scientifique évaluera rigoureusement les risques et les mesures d'atténuation, et ses conclusions influenceront directement les décisions du Bureau (qualification de risques systémiques, exigences de conformité renforcées, mesures correctrices). Les fournisseurs ont intérêt à adopter une approche proactive et transparente, démontrant la robustesse de leurs analyses de risques et de leurs mesures de sécurité.

Pour les autres fournisseurs et déployeurs de systèmes d'IA, bien que non directement soumis à l'évaluation du groupe scientifique, les orientations, recommandations et bonnes pratiques que le groupe contribue à élaborer (paragraphe 3, points b et c) constituent des références précieuses pour guider leurs propres démarches de conformité et de gestion des risques.

Pour la communauté académique et scientifique, l'article 68 offre une opportunité de contribution directe à la régulation de l'IA en Europe. Les chercheurs de haut niveau peuvent candidater pour participer au groupe scientifique, apportant leur expertise au service de l'intérêt général. La participation au groupe représente également une reconnaissance de l'excellence scientifique et une opportunité de contribuer à l'élaboration de politiques publiques informées par la science.