LLM et IA générative en entreprise : usages déployés, ancrage et gouvernance.

Un grand modèle de langage est un système entraîné sur de vastes corpus, capable de produire du texte, du code ou une analyse à partir d’une instruction. Il ne consulte pas une base de connaissances : il génère une réponse probable. Cette mécanique explique à la fois sa polyvalence et sa principale limite en entreprise, où une réponse plausible mais fausse coûte plus cher qu’une absence de réponse. Cette page traite ce que les organisations déploient réellement, le rôle décisif de l’ancrage documentaire et les risques de gouvernance, dans le prolongement de notre couverture IA, données et plateformes.

Ce que le modèle fait, et ce qu’il ne fait pas

Définition. Un modèle de langage génère du texte en prédisant la suite la plus probable d’une séquence, à partir des régularités apprises pendant l’entraînement. Il ne dispose ni d’une base de faits interrogeable, ni d’une notion de certitude sur ce qu’il produit.

Trois conséquences opérationnelles en découlent, et elles conditionnent toute décision d’architecture.

La connaissance du modèle est figée à sa date d’entraînement. Toute information postérieure doit lui être fournie dans l’instruction. C’est la raison d’être de l’ancrage documentaire.

Le modèle ne signale pas ce qu’il ignore. Il produit une réponse de la même manière qu’il connaisse ou non le sujet. La détection de l’erreur relève donc du dispositif qui l’entoure, jamais du modèle lui-même.

Le coût est proportionnel au volume traité. Contrairement à une application classique dont le coût marginal tend vers zéro, chaque appel se facture. Un usage qui se généralise sans mesure produit une ligne budgétaire qui échappe au pilotage.

L’ancrage documentaire décide de la qualité

La technique consiste à sélectionner, avant génération, les passages pertinents d’une base documentaire interne et à les fournir au modèle comme contexte. C’est aujourd’hui l’architecture dominante des déploiements d’entreprise.

Le point que les présentations escamotent : la qualité du résultat dépend de la phase de recherche, pas du modèle. Un corpus mal découpé, des documents obsolètes non retirés, une indexation qui ignore la structure des documents produisent des réponses médiocres avec le meilleur modèle du marché. Les projets qui déçoivent ont presque toujours investi dans le modèle et négligé le corpus.

Quatre chantiers déterminent le résultat :

• La sélection du corpus. Quels documents, dans quelle version, avec quelle date de péremption.
• Le découpage. Un document découpé sans tenir compte de sa structure produit des passages sans contexte, donc des réponses hors sujet.
• Les droits d’accès. Le système doit restituer à chaque utilisateur uniquement ce qu’il a le droit de voir. Un moteur qui ignore les habilitations transforme une base documentaire en fuite organisée. C’est un incident de sécurité, pas un défaut de pertinence.
• La traçabilité des sources. Une réponse sans référence au document d’origine n’est pas vérifiable, donc pas utilisable dans un processus engageant.

Le socle technique de cette architecture, en particulier les bases vectorielles, est traité dans notre section bases de données modernes.

Les trois familles d’usages déployées

Les assistants individuels se déploient vite et se mesurent mal. Le bénéfice existe mais se dilue dans les usages, ce qui rend l’arbitrage budgétaire difficile à défendre au renouvellement.

L’accès à la connaissance interne est la famille la plus déployée, et celle dont le retour est le plus démontrable, à condition d’avoir traité le corpus.

L’automatisation de traitements à volume est celle où le contrôle compte le plus : une erreur sur un cas isolé se rattrape, la même erreur répétée sur dix mille dossiers devient un incident. Le passage à l’action autonome est traité dans notre section copilots et agents IA.

Les arbitrages d’architecture

Modèle propriétaire par interface de programmation ou modèle ouvert auto-hébergé. Le premier donne accès aux capacités les plus avancées sans investissement d’infrastructure, au prix d’une dépendance et d’une sortie de données. Le second garantit la localisation et la maîtrise, avec un coût d’exploitation et de compétences réel, et un écart de capacité qui se réduit sans disparaître.

Le critère de décision n’est pas la performance mais la sensibilité des données traitées et l’exigence de localisation. Une organisation soumise à une contrainte de souveraineté n’a pas le même arbitrage qu’une organisation qui traite de la documentation publique.

Le choix du modèle est réversible, celui de l’architecture ne l’est pas. Concevoir le système pour pouvoir changer de modèle, en isolant l’appel derrière une couche d’abstraction, coûte peu à la conception et beaucoup à ajouter après coup. C’est la seule décision d’architecture qui protège d’un marché dont les acteurs et les tarifs bougent tous les trimestres.

La mesure, enfin. Quatre dimensions à instruire dès la mise en production : la qualité des réponses sur un jeu de contrôle, le coût par appel, la latence, et le taux de recours humain. Voir notre section observabilité et monitoring.

La gouvernance à poser avant le déploiement

Les obligations de transparence issues du règlement européen sur l’intelligence artificielle s’appliquent depuis le 2 août 2026. Une organisation qui expose un assistant conversationnel à des utilisateurs doit les informer qu’ils interagissent avec un système d’IA, et signaler les contenus générés. Le cadre complet est traité dans notre section gouvernance IA et AI Act.

À cela s’ajoutent trois points que les projets traitent tard :

• L’usage non déclaré. Des collaborateurs utilisent des services grand public avec des données de l’entreprise. Interdire sans proposer d’alternative déplace l’usage sans le réduire.
• Les droits sur les contenus produits. Statut juridique des sorties, réutilisation, et clauses des fournisseurs sur l’entraînement à partir des données transmises.
• L’information des instances représentatives du personnel, lorsque le déploiement affecte les conditions de travail. Le sujet est développé dans notre section consacrée aux agents en production.

Explorer le cluster

Cette page fait partie de notre couverture de l’intelligence artificielle, de la donnée et des plateformes : gouvernance, socle technique et industrialisation.

iTPro+ : recevez chaque semaine les analyses IA et data qui concernent les directions informatiques.