Également publiée par Sophos X-Ops sous le titre « Cybercriminals Still Not Getting on Board the AI Train (Yet)  » fait état d’un changement léger, mais notable dans la façon dont les cybercriminels utilisent l’intelligence artificielle. Après avoir mené leur enquête sur plusieurs forums clandestins, les analystes de Sophos X-Ops ont découvert qu’en dépit d’un scepticisme ambiant, certains cybercriminels utilisent l’IA générative pour automatiser des tâches courantes, telles que la rédaction d’e-mails en masse ou l’analyse de données, tandis que d’autres l’intègrent à leurs outils de génération de spams et d’ingénierie sociale.

« Comme dans la vie courante, l’approche à adopter face à l’IA générative devrait être de « faire confiance tout en vérifiant ». Or, nous n’avons pas vraiment appris aux machines à réfléchir : nous leur avons simplement fourni le contexte nécessaire pour accélérer le traitement de grandes quantités de données », met en garde Chester Wisniewski, directeur, Global Field CTO, Sophos. « La capacité de ces outils à accélérer les charges de travail de sécurité est phénoménale, mais il leur manque encore le contexte et la compréhension dont disposent leurs superviseurs humains pour que cet avantage se concrétise. »

L’intelligence artificielle étant, sous une forme ou sous une autre, intégrée à l’infrastructure de cybersécurité de 98 % des entreprises interrogées, les responsables IT ont exprimé leur inquiétude quant à une éventuelle dépendance excessive vis-à-vis de cette technologie. Ainsi, 87 % des personnes interrogées se sont déclarées préoccupées par un manque de responsabilisation qui en résulterait pour la cybersécurité.

IA générative et réduction du burn-out

En fonction de leur taille, les entreprises accordent une priorité différente à l’utilisation de l’IA générative. Alors que les grands comptes (plus de 1 000 employés) privilégient l’amélioration de la cyberprotection, la réduction du burn-out est le principal avantage que les entreprises qui emploient entre 50 et 99 personnes souhaitent tirer de ces nouveaux outils. Mais pour compliquer les choses, 84 % des dirigeants interrogés, indépendamment de la taille de leur entreprise, se déclarent préoccupés par les pressions exercées pour réduire leurs effectifs de cybersécurité en raison d’attentes irréalistes quant à la capacité de l’IA à remplacer les opérateurs humains.

Autres conclusions de l’étude « Beyond the Hype » :

• le coût de l’IA générative est difficile à quantifier : 75 % des responsables IT peinent à évaluer le coût de l’intelligence artificielle générative dans les produits de cybersécurité ;
• les entreprises comptent sur les économies réalisées grâce à l’IA générative : alors que 80 % des responsables IT sont convaincus que l’IA générative augmentera considérablement le coût des outils de cybersécurité, la plupart des entreprises estiment que cette technologie contribue à réduire leurs dépenses globales en matière de cybersécurité, et 87 % d’entre eux que les économies ainsi réalisées compenseront les dépenses engagées.

Pour en savoir plus sur la façon dont les responsables IT utilisent l’IA, lisez l’étude « Beyond the Hype : The Businesses Reality of AI for Cybersecurity » sur Sophos.com.

Pour en savoir plus sur l’attitude des cybercriminels à l’égard de l’IA générative, lisez l’étude « Cybercriminals Still Not Getting on Board the AI Train (Yet) » sur Sophos.com.