Agents IA incontrôlés et rappel à l’ordre de Bruxelles : pourquoi la réponse doit être technique, pas seulement juridique

Philip Miller, expert IA chez Progress Software partage son expertise.

En pointant du doigt des comportements imprévus et incontrôlés sur le terrain, Bruxelles met en lumière un problème d’ingénierie logicielle que beaucoup d’entreprises ont sous-estimé : la perte de contrôle technique sur des modèles déployés trop rapidement.

Jusqu’ici, la préparation à l’EU AI Act s’est largement cantonnée aux cabinets d’avocats et aux directions juridiques. Mais les dérives récentes de ces derniers mois déplacent brutalement le sujet. La question n’est plus seulement de savoir si un système d’IA respecte les textes sur le papier, mais si les entreprises sont capables de garantir qu’un agent autonome ne prendra pas d’initiative critique incontrôlée au cœur de leur système d’information.

 

Le choc entre l’imprévisibilité de l’IA et la rigueur du SI

La racine du problème est d’ordre structurel. L’IA générative et agentique fonctionne sur une logique probabiliste : elle produit des prédictions et des comportements basés sur des statistiques. À l’inverse, l’architecture informatique d’une entreprise est déterministe. Qu’il s’agisse de valider une transaction, de gérer une chaîne logistique ou de modifier une base de données, le système d’information exige des règles strictes, prévisibles et sans marge d’erreur.

En accordant à des agents IA un accès direct aux outils métiers, aux messageries ou aux flux financiers, les organisations créent une zone de risque inédite. Appliquer une couche d’automatisation probabiliste sur des systèmes d’information déjà complexes revient à introduire une instabilité permanente. Lorsque plusieurs agents interagissent entre eux, la traçabilité s’effondre et les probabilités de dérapage augmentent.

 

 

2026-2027 : passer de la simple visibilité au verrouillage applicatif

L’échéancier européen impose un calendrier qui recoupe exactement ces contraintes d’architecture :

• 2026 est l’année de la visibilité et de la transparence

Les entreprises doivent cartographier précisément où l’IA intervient, identifier clairement si un utilisateur fait face à une machine ou à un humain, et imposer des normes de données rigoureuses.

 

• 2027 sera l’année de la gouvernance stricte

À partir de décembre 2027, les systèmes d’IA à haut risque seront soumis à des exigences d’accès au marché considérablement renforcées.

Espérer résoudre le problème en attendant des modèles d’IA « plus sages » ou mieux entraînés est une illusion : par définition, un modèle probabiliste conservera toujours une part d’imprévisibilité.

 

Entourer le probabiliste de garde-fous déterministes

La véritable parade réside dans une approche véritablement AI-native, qui consiste à encadrer l’IA par des garde-fous logiciels déterministes. Concrètement, l’agent IA peut analyser, raisonner et proposer, mais ce sont des règles applicatives strictes et éprouvées qui valident et exécutent chaque action dans le SI.

L’EU AI Act ne doit pas être abordé comme une contrainte ponctuelle ou une checklist administrative. Il s’agit d’un chantier permanent d’ingénierie logicielle. Pour naviguer face aux risques d’incidents et aux évolutions de la réglementation, les entreprises n’ont d’autre choix que d’associer la puissance probabiliste de l’IA à la rigueur de contrôles déterministes.