Cybersécurité : l’IA générative rebat les cartes du cybercrime

Eric Antibi, Directeur technique chez Palo Alto Networks France a accepté de partager son analyse du sujet.

Entre les outils non autorisés, l’absence de gouvernance et l’exfiltration de données sensibles… L’IA générative devient un angle mort de la cybersécurité.

L’expansion de l’intelligence artificielle générative est un véritable tournant dans l’évolution des cybermenaces. Quand les entreprises l’adoptent pour gagner en productivité et en efficacité opérationnelle, les acteurs malveillants l’utilisent pour industrialiser, automatiser et perfectionner leurs attaques. Il y a une mutation profonde de l’écosystème cyber: la frontière entre cybercriminalité opportuniste et opérations sophistiquées d’acteurs étatiques s’estompe de plus en plus.

Une menace toujours plus véloce, efficace et accessible

L’IA générative (GenAI) casse les barrières à l’entrée du cybercrime. Elle aide les cybercriminels à rédiger des scripts d’attaque, d’intrusion, des emails de phishing parfaits ou à distiller des campagnes de spear-phishing ultra ciblées et multilingues. Elle produit du code pour des malwares en quelques secondes. Sans qu’elle nécessite de compétences techniques de très haut niveau, elle aide des acteurs malveillants à créer des ransomwares, de faux sites, des identités synthétiques, des deep fakes pour des opérations d’ingénierie sociale toujours plus crédibles. 

La GenAI permet d’industrialiser et d’automatiser des attaques complexes à grande échelle. Les agents IA déploient des campagnes en continu, ajustent en temps réel les vecteurs d’attaque en fonction des cibles, identifient et contournent les dispositifs de sécurité. Sur le Dark Web, nous constatons le développement du cybercrime-as-a-service et de l’IA-as-a-service. Les acteurs de la menace y proposent à la vente ou à la location des kits, des services ou bien encore des outils basés sur l’IA. L’intelligence artificielle générative est le catalyseur de la transformation du cybercrime et devient une composante structurelle du paysage des menaces.

Une pression inédite sur les défenses

Les équipes de sécurité ne disposent pas toujours des outils et des ressources humaines nécessaires pour faire face aux cyberattaques toujours plus nombreuses et complexes. L’approche traditionnelle de la sécurité, visant à compiler les solutions pour se protéger de chaque type de menaces, est désormais obsolète, voire dangereuse. Elle crée des silos, des angles morts incompatibles avec la vélocité des attaques alimentées par l’IA et l’ingéniosité des cybercriminels. 

De plus, la capacité d’analyse humaine seule ne suffit plus à identifier et contenir des attaques dynamiques, polymorphes et amplifiées par l’IA. Les RSSI doivent désormais intégrer des capacités d’IA défensive et proactive dans leurs stratégies. Sans oublier de renforcer la gouvernance autour des usages internes non maîtrisés de l’IA – car à l’instar du shadow IT, le shadow AI se développe au sein des organisations. Le shadow AI signifie que Les équipes informatiques et de sécurité n’ont aucune visibilité et ne savent pas qui utilise quels outils, comment et à quelles fins. Cet usage accroît la surface d’attaque et expose les organisations à des risques critiques.  

L’un d’entre eux est l’exposition et les fuites de données sensibles, confidentielles ou propriétaires. Ces outils peuvent stocker, réutiliser ou exposer ces données de manière indépendante de la volonté de l’entreprise. L’utilisation non surveillée de l’IA peut enfreindre les règlements tels que le RGPD, HIPAA, l’IA Act, ou des normes de conformité sectorielles spécifiques. Les outils d’IA générative peuvent également produire du contenu biaisé, inexact ou contraire à l’éthique. Son utilisation à des fins RH, marketing ou de communication client peut entraîner des problèmes juridiques ou nuire à la réputation. 

Ce manque de gouvernance sur les usages internes, combiné à la sophistication croissante des outils externes, crée un double front pour les équipes de sécurité.

Une réponse collective et coordonnée est indispensable

Limiter la réponse aux menaces de l’IA générative au seul périmètre de l’entreprise est une erreur. Si chaque entreprise doit s’adapter à ce changement de paradigme, la réponse doit être collective et coordonnée. Cela suppose de renforcer les mécanismes de partage d’informations, des indicateurs de compromission, entre le secteur privé et les institutions publiques. Il nous faut tester en permanence notre stratégie de défense et plan de résilience en simulant des scénarios d’attaques désormais augmentés à l’IA.

Pour combattre l’IA, et jouer à armes égales, il devient impératif d’intégrer l’IA, secure by design, dans les dispositifs de détection, de réponse et de résilience aux incidents. Les outils de détection traditionnels, basés sur des règles statiques ou des signatures, sont à présent inefficaces face à des attaques polymorphes et adaptatives.

Enfin, si à l’échelle des organisations, il est utile de sensibiliser; former toutes les parties prenantes de l’entreprise (direction, métiers, employés, etc.). A l’échelle des nations, l’encadrement des usages de l’IA via des cadres réglementaires comme l’IA Act, la directive NIS 2, tout en garantissant l’innovation, reste indispensable.  

L’IA est la réponse la plus efficace au cybercrime. Des organisations aux Etats, il faut adapter notre posture et approche de la sécurité : proactive, réactive, collective, stratégique, humaine et technologique. L’agilité, l’anticipation sont clé pour assurer notre défense numérique. Ceci pour faire face aux nouvelles menaces, garantir notre résilience et la confiance numérique. 

Source : rapport « The State of Generative AI 2025 »