La gouvernance, dans son acception la plus étendue, caractérise l’ensemble des processus d’organisation, de coordination, d’orientation et de gestion d’une activité. Cette notion ne porte pas simplement sur des mécanismes décisionnels, mais englobe également le cadre normatif, les politiques structurantes et les institutions qui déterminent la conduite des parties prenantes afin de parvenir à des résultats socialement acceptables.
Ce concept revêt une importance capitale dans le récent Règlement européen sur l’intelligence artificielle (RIA), où il se trouve mentionné quarante fois dans le texte. Le règlement européen établit, d’une part, une architecture institutionnelle de gestion de l’IA au niveau communautaire et, d’autre part, impose un cadre de gouvernance particulièrement rigoureux aux fournisseurs (article 16) ainsi qu’aux déployeurs (article 26) des systèmes d’intelligence artificielle qualifiés à haut risque (SIA).
L’instauration de ces mécanismes de gouvernance vise, à ce titre, à matérialiser les sept principes fondamentaux élaborés par le Groupe d’experts de haut niveau sur l’intelligence artificielle (GEHN-IA) en 2019, principes rappelés expressément dans le considérant du règlement. Ces derniers s’articulent comme suit : action et contrôle humains, robustesse technique et sécurité, respect de la vie privée et gouvernance des données, transparence, diversité, non-discrimination et équité, bien-être sociétal et environnemental, et – si l’on peut dire – pierre angulaire de l’édifice réglementaire, responsabilité.
La mise en œuvre effective de cette gouvernance se heurte, à l’évidence, à trois défis majeurs. D’une part, la complexité intrinsèque des systèmes d’intelligence artificielle – qui ne peuvent être ni expliqués ni appréhendés par le biais du paradigme réductionniste traditionnel -, nécessite une approche plus holistique. D’autre part, l’absence de consensus sur certaines notions fondamentales et méthodologies dans le domaine de l’IA prive les organisations d’outils conceptuels et pratiques. Enfin, la gouvernance de l’IA réclame, à l’image des autres domaines techniques hautement spécialisés, une formation spécifique qui n’est pas encore largement déployée au sein des entreprises.
Les SIA : des systèmes complexes par nature
Selon l’OCDE – emblème international de la volonté d’harmonisation des politiques économiques et sociales -, les systèmes d’IA constituent des ensembles particulièrement sophistiqués comprenant des données d’entraînement et de fonctionnement, des modèles algorithmiques, des sorties analysables et des contextes d’application. Ces éléments ne portent pas sur de simples composants isolés mais sur un écosystème intégré. Bien que les modèles algorithmiques représentent des éléments fondamentaux de cette architecture, ils opèrent rarement de manière isolée. À ce titre, les SIA se caractérisent par l’interaction de multiples modèles, formant des structures complexes dont l’appréhension globale échappe aux analyses fragmentaires.
Cette complexité s’accentue, sans conteste, lorsque les SIA interagissent entre eux, partageant des données – parfois sensibles – et s’intégrant dans des environnements réels aux contraintes multiples. Il en résulte un vaste réseau de systèmes, chacun doté de modèles spécialisés, œuvrant collectivement vers un objectif commun. Cette configuration présente toutes les caractéristiques d’un système complexe (au sens technique du terme), avec son lot de défis réglementaires à relever.
Parmi ces défis, on distingue, non seulement la multiplicité des acteurs impliqués, avec des responsabilités et intérêts parfois divergents – voire antagonistes -, mais également l’opacité inhérente à l’IA qui complique l’explicabilité et l’évaluation des modèles.
À cette complexité s’ajoute un autre écueil substantiel : les outils de la gouvernance – tant conceptuels que techniques – font encore partiellement défaut, compromettant ainsi l’efficacité des dispositifs de contrôle institués par le législateur européen.
Des outils encore en gestation
Le RIA prévoit, sur une période de trois ans – à l’image des périodes transitoires habituellement accordées pour les réglementations techniques complexes -, l’élaboration d’un ensemble de normes harmonisées et de guides de bonnes pratiques pour faciliter la conformité des opérateurs. Cette mise en avant de ressources standardisées contribue, à l’évidence, à structurer les attentes du législateur. Plusieurs ressources existent déjà, comme le cadre de l’OCDE, la grille d’évaluation du GEHN-IA, la norme ISO 42001, ou encore des documentations types telles que le Model Card (instrument de transparence documentant les modèles d’IA). Ces éléments ne portent pas sur des aspects isolés mais sur un ensemble cohérent pouvant se combiner pour former un cadre de gestion efficace. Des solutions logicielles comme les Artificial Intelligence Management Systems (AIMS) ont émergé pour soutenir la mise en place de ces structures de gouvernance.
Néanmoins, si certains outils documentaires ou normatifs sont disponibles ou en cours d’élaboration, de nombreux concepts restent en gestation et ne font pas l’objet d’un consensus au sein de la communauté scientifique et technique. L’évaluation des modèles de langage, par exemple, manque encore d’une méthodologie universellement reconnue – situation particulièrement problématique considérant leur déploiement massif. On peut s’interroger sur la réalité de ces lacunes puisque, même si des initiatives prometteuses existent (HELM, EleutherAI), de nombreuses alternatives méthodologiques restent possibles, générant ainsi une fragmentation préjudiciable à l’harmonisation souhaitée par le législateur européen.
Ces défis conceptuels se doublent d’un enjeu tout aussi crucial : la formation des acteurs chargés d’utiliser ces outils et de mettre en œuvre la gouvernance de l’IA. L’interdiction ne suppose pas de démontrer une absence totale d’expertise, simplement d’établir que les compétences requises pour appréhender la complexité des systèmes d’IA – sous réserve de programmes de formation adaptés – demeurent insuffisamment répandues parmi les professionnels concernés. À ce titre, le développement des compétences constitue une condition sine qua non de l’effectivité du cadre réglementaire européen.
Une formation indispensable au pilotage
L’article 4 du RIA, entré en vigueur le 02 février 2025, impose explicitement aux fournisseurs et déployeurs une obligation de maîtrise de l’intelligence artificielle pour le personnel utilisant les SIA. Cette exigence ne porte pas sur de simples recommandations mais sur une véritable prescription réglementaire, soulignant l’importance capitale de l’acculturation à l’IA. Fournir un niveau de formation adéquat à l’ensemble des personnes impliquées dans le processus – leur permettant de comprendre les principes de fonctionnement de l’IA et d’assurer une supervision efficace – constitue une dernière difficulté majeure à surmonter. En effet, un décalage significatif persiste entre le déploiement rapide, parfois anarchique, des SIA, les compétences disponibles au sein des organisations et l’offre de formation à disposition sur le marché.
Malgré ces obstacles substantiels, il est essentiel d’agir dès maintenant, sans attendre une hypothétique maturité complète des outils et méthodologies. Cette démarche progressive présente l’avantage de s’adapter à l’évolution du domaine tout en développant les compétences nécessaires de façon graduelle. On peut s’interroger sur la pertinence de cette approche puisque, même si elle comporte des incertitudes, de nombreuses initiatives structurantes restent possibles dès à présent.
On peut établir un parallèle instructif avec les débuts de l’implémentation du RGPD – à l’image d’autres réglementations techniques d’envergure – qui a nécessité une forte acculturation à la matière et la mise en place d’outils adéquats. Là encore, les premières phases d’application ont été marquées par de nombreuses incertitudes conceptuelles et pratiques. Malgré cela, aujourd’hui, les outils de gestion sont opérationnels et largement déployés au sein des organisations concernées. Espérons qu’il en sera de même pour le RIA, malgré sa complexité bien supérieure (liée à la nature même des systèmes qu’il entend réguler).