IA Agentique : la vraie rupture c’est la gouvernance humaine

Martin Woodward, Vice-Président Relations Développeurs, GitHub analyse le sujet.

C’est dans le domaine du génie logiciel que nous constatons le plus de changements. Contrairement aux premiers outils d’IA générative qui fournissaient une assistance étape par étape, ces agents sont conçus pour effectuer des tâches complètes : ils planifient, exécutent, enchaînent les outils, créent et testent les changements. Cela modifie considérablement la vitesse à laquelle nous pouvons créer des logiciels, ce qui suscite de grandes attentes. Cependant, ce que nous avons appris en appliquant les outils d’IA au génie logiciel, c’est que le changement le plus significatif sur le plan structurel n’est pas technologique. Il est organisationnel et, surtout, humain.

Des systèmes qui peuvent agir, mais pas décider

L’IA agentielle modifie la nature du travail des ingénieurs, mais elle modifie encore plus les conditions de ce travail. Elle permet aux développeurs de créer plus rapidement et avec une confiance accrue. Elle peut également nous aider à corriger les failles de sécurité beaucoup plus rapidement. Mais elle ne remplace pas le jugement humain, la compréhension contextuelle ou la responsabilité liée aux décisions techniques.

Un agent peut agir, mais il n’a ni goût ni créativité. Il ne décide pas du sens, ne définit pas les priorités commerciales et ne comprend pas les compromis commerciaux. Cette frontière où le jugement humain entre en jeu reste, et restera toujours, essentielle.

Une structure claire est essentielle

L’IA agentique modifie le rythme de travail, mais pas son objectif : elle permet aux équipes d’avancer plus rapidement, mais exige en contrepartie une plus grande discipline. En effet, sans processus clair, l’accélération peut rapidement entraîner des goulots d’étranglement dans le flux entre l’idée et la mise en œuvre. Si la productivité de chaque individu est rapidement accélérée, le besoin de bonnes pratiques permettant aux équipes d’agents et d’humains de travailler ensemble devient encore plus important, à mesure que chaque individu gagne en rapidité.

Lorsque vous ignorez les processus, le prix à payer peut se traduire par une augmentation de la dette technique, une complexité difficile à contrôler ou une perte de clarté dans la prise de décision. L’IA agentique ne fonctionne pas en dehors des contraintes commerciales : elle les traverse, les accélère, mais peut également les mettre à rude épreuve.

Martin Woodward, Vice-Président Relations Développeurs, GitHub

La gouvernance devient un enjeu stratégique

La partie la plus difficile reste la même : l’étincelle créative initiale qui fait qu’une idée vient améliorer une entreprise ou créer un produit dont les gens ont besoin. Ensuite, lorsqu’il s’agit d’une grande entreprise, il faut transmettre ces idées aux clients de manière fiable et reproductible, en permettant à des centaines de développeurs utilisant des milliers d’agents de fusionner de manière fiable et cohérente, ce qui nécessite un jugement et des compétences humaines considérables.

Le principal défi réside dans le pilotage et la supervision. Plus un système est capable d’agir de manière autonome, plus sa gouvernance devient stratégique. Qui fixe les règles ? Qui valide les actions ? Qui peut arrêter un agent, corriger sa trajectoire ou reprendre le contrôle ? La gouvernance humaine est ce qui permet d’instaurer la confiance et de déployer ces technologies à grande échelle (1).

L’importance du choix

Avec l’évolution rapide du paysage industriel, le choix n’a jamais été aussi important pour les entreprises. À l’heure actuelle, en l’espace de quelques semaines, nous assistons à des améliorations exponentielles des capacités de l’IA. Ce qui pourrait être aujourd’hui le modèle ou l’outil d’IA le plus avancé pourrait devenir obsolète avant même la fin d’un cycle d’approvisionnement standard dans l’entreprise.

Les organisations doivent donc rechercher des options qui leur offrent la plus grande flexibilité, la possibilité d’éviter la dépendance vis-à-vis d’un seul fournisseur de modèles et la capacité de travailler avec les autres outils utilisés par l’entreprise.

C’est une question de leadership, pas seulement de choix techniques

Cette exigence dépasse largement le domaine technique. Elle est avant tout managériale. Des travaux récents sur la gouvernance de l’IA montrent que les difficultés rencontrées par les organisations sont rarement liées aux performances des outils. Elles découlent beaucoup plus souvent de l’absence de rôles clairs, de responsabilités définies et de mécanismes explicites de supervision humaine (2). Sans ce cadre, l’IA agentielle peut créer une illusion d’efficacité : plus d’activité, plus rapide, mais sans vision globale, moins d’impact.

La responsabilité finale ne peut être déléguée à un agent. Même lorsque l’IA agit de manière autonome, les décisions quant à la voie à suivre appartiennent aux individus et aux organisations. Si la dernière génération d’outils d’IA agentielle permet de déléguer une grande partie du travail, elle ne délègue pas la responsabilité.

Sources

1. AI and the Future of Work
   OCDE – novembre 2023
   https://www.oecd.org/digital/artificial-intelligence/future-of-work/
2. Governing AI in the Enterprise
   MIT Sloan Management Review – février 2024
   https://sloanreview.mit.edu/article/governing-ai-in-the-enterprise/
3. Artificial Intelligence Act – Human Oversight / Commission européenne – mars 2024 https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai