L’IA et l’IA générative transforment la cybersécurité

Face aux nouvelles menaces et défenses, l’IA et l’IA générative sont liées à la cybersécurité. C’est ce que révèle le dernier rapport du Capgemini Research. En effet, ces technologies transforment en profondeur les stratégies de cyberdéfense, puisqu’elles permettent de prédire, détecter et répondre aux menaces.

L’IA renforce les stratégies de sécurité, mais l’adoption croissante de l’IA générative entraîne une vulnérabilité accrue. Quels sont les 3 risques détectés de l’IA générative ?

• des attaques plus sophistiquées impliquant davantage de protagonistes
• une extension de la surface de cyber-attaque
• une augmentation des vulnérabilités dans l’ensemble du cycle de vie des solutions d’IA générative.

L’augmentation de l’exposition aux menaces

97% des organisations ont déjà été confrontées à des violations ou problèmes de sécurité liés à l’IA générative au cours de l’année écoulée, avec des risques comme la génération de contenus biaisés, nuisibles ou inappropriés, et des attaques par injection rapide.

Face à cela, 67% s’inquiètent de contaminations de données et de fuite de données sensibles par le biais des données d’entraînement utilisées pour former les modèles d’IA générative.

La production de contenus artificiels réalistes pose des risques supplémentaires : 43% ont subi des pertes financières à la suite de l’utilisation de deepfakes.

L’IA et l’IA générative pour détecter et répondre aux attaques

L’IA renforce la sécurité des données, des applications et du cloud. Cette technologie analyse rapidement de grandes quantités de données, identifie des schémas d’attaque et prédit les violations potentielles.

Ainsi, plus de 60% ont signalé une réduction d’au moins 5% de leur temps de détection, et selon près de 40%, leur temps de remédiation a diminué de 5% ou plus après la mise en œuvre de l’IA dans leurs centres d’opérations de sécurité (SOCs).

Enfin, selon 61%, l’IA permet de répondre efficacement aux menaces, avec des stratégies de sécurité proactives contre des attaques de plus en plus sophistiquées.

L’IA générative renforce les stratégies de défense proactives à long terme et permet aux analystes en cybersécurité de se concentrer sur la stratégie de lutte contre les menaces complexes. « L’IA et l’IA générative fournissent aux équipes de sécurité de nouveaux outils puissants pour limiter ces incidents et transformer leurs stratégies de cyberdéfense. Pour s’assurer qu’elles représentent un avantage significatif face à des menaces de plus en plus sophistiquées, les organisations doivent maintenir et prioriser une surveillance continue de l’évolution des menaces et de la cybersécurité, construire une infrastructure de gestion des données appropriée, mettre en place des cadres et lignes directrices éthiques pour l’adoption de l’IA, ainsi que des programmes robustes de formation et de sensibilisation de leurs employés, » déclare Marco Pereira, à la tête de la Cybersécurité des services Cloud Infrastructure du groupe Capgemini.

Source :Rapport du Capgemini Research Institute – New defenses, new threats : What AI and Gen AI bring to cybersecurity – 1 000 organisations – 12 secteurs et 13 pays d’Asie-Pacifique, d’Europe et d’Amérique du Nord, et ayant un chiffre d’affaires annuel d’au moins 1 milliard de dollars. Mai 2024.