Les risques liés à l’essor fulgurant de l’IA générative 

L’usage de la GenAI explose, avec une hausse de plus de 890 % du trafic observée en 2024. Mais derrière cette adoption, la surface d’attaque expose grandement les organisations à des risques de cybersécurité.

Top 10 des applications GenAI

Selon Palo Alto Networks, chaque organisation utilise en moyenne 66 applications GenAI, dont 10 % sont jugées à haut risque. L’engouement est fort pour des outils comme Grammarly, ChatGPT, Microsoft Copilot ou DeepL, notamment dans les secteurs technologiques, industriels et financiers. A noter que 83,3% des usages les plus courant de la GenAI concernent :

• L’assistance à la rédaction (34 %)
• Les agents conversationnels (29 %)
• La recherche en entreprise (11 %)
• Les plateformes de développement logiciel (10 %)

GenAI & cybermenaces

Mais les incidents de fuite de données liés à l’IA ont été multipliés par 2,5 depuis début 2025. Aujourd’hui, 14 % des incidents de sécurité sur les plateformes SaaS sont imputables à des applications GenAI.

L’Unit 42 de Palo Alto Networks a récemment mené une étude sur les applications/assistants d’écriture et a découvert que plus de 70 % des applications testées étaient vulnérables à des techniques de jailbreaking (détournement) en une ou plusieurs étapes.“À mesure que l’adoption de la GenAI progresse, les risques associés augmentent également. La surveillance des interactions avec l’IA n’est plus une option mais un pré requis pour renforcer sa posture de sécurité. Elle est essentielle pour prévenir l’adoption non autorisée de GenAI (Shadow AI),  appliquer les politiques de sécurité et favoriser une utilisation responsable de l’IA” commente Eric Antibi, Directeur technique chez Palo Alto Networks.   

6,6 applications GenAI à haut risque !

Une entreprise utilise en moyenne 6,6 applications GenAI à haut risque. Le degré d’exposition varie selon le secteur d’activité, le niveau de maturité numérique et les contrôles de sécurité déjà en place.

Pour un usage responsable de l’IA

Palo Alto Networks livre quelques recommandations pour renforcer la posture de sécurité des entreprises.

• Etablir et renforcer le contrôle des accès aux outils GenAI via des politiques conditionnelles
• Assurer une surveillance en temps réel les échanges et contenus générés
• Déployer des protections avancées contre les malwares et attaques par IA
• Sensibiliser et former les collaborateurs à un usage sécurisé et éthique de l’IA
• Adopter des outils spécifiques de protection de l’IA (Zero Trust, DLP, filtrage des prompts, etc.)

Source : Etude Palo Alto Networks – Compilation des journaux de trafic historiques provenant d’un échantillon de 7 051 clients à travers le monde sur 2024. Des incidents DLP (Data Loss Prevention) anonymisés également été collectés et analysés entre janvier et mars 2025. Rapport The State of Generative AI 2025