« Nos dernières recherches ont permis de découvrir plusieurs nouveaux outils de deepfake servant de rampe de lancement à des escroqueries, de l’ingénierie sociale et autres tentatives de contournement de sécurité par des cybercriminels de tous niveaux. Chez Trend, nous sommes à la pointe de l’innovation pour lutter contre ce phénomène. Grâce aux nouvelles capacités de détection des deepfakes et autres formes de risque liés à l’utilisation frauduleuse de l’IA, nous offrons à nos clients B2B, ainsi qu’au grand public, un niveau de protection inégalée sur le marché. En sécurisant l’IA, nous démontrons, une fois de plus, notre capacité à anticiper les évolutions du paysage des menaces et de l’IT », explique Kevin Simzer, COO -Trend.

La détection et la mise en échec de ces méthodes basées sur l’IA sont cruciales pour mieux gérer les risques liés à la surface d’attaque pour les entreprises et pour réduire le risque en ligne pour le grand public. D’autant que près des 3/4 considèrent que la fraude est l’un des principaux usages des deepfakes[1].

Bientôt disponible au sein de la plateforme Trend Vision One™, la nouvelle technologie de détection de deepfake utilisera diverses méthodes avancées pour repérer les contenus frauduleux générés par l’IA. Une capacité d’ores et déjà disponible pour le grand public via Trend Micro Deepfake Inspector.

Au-delà des techniques telles que l’analyse du bruit de l’image et la détection des couleurs, la plateforme de Trend analyse également les éléments comportementaux des utilisateurs pour fournir une approche beaucoup plus robuste de la détection et de l’arrêt des deepfakes. Dès détection, Trend alerte immédiatement les équipes de sécurité, leur permettant d’apprendre, de sensibiliser et de prendre des mesures proactives pour prévenir de futures attaques.

Trend Micro Deepfake Inspector peut vérifier en direct lors d’une conversation vidéo si une technologie de deepfake est utilisée, et le cas échéant alerter l’utilisateur que l’interlocuteur avec lequel il converse pourrait ne pas être celui qu’il prétend être.

Selon Dan Ayoub, analyste – Gartner[2] : « les applications GenAI de haute qualité, facilement disponibles, sont maintenant capables de créer des contenus vidéo photoréalistes capables de tromper ou induire en erreur un public. Étant donné les faibles barrières à l’entrée pour l’utilisation de ces outils et leur sophistication croissante, développer une approche méthodique pour détecter les contenus deepfake utilisant l’IA générative est devenu nécessaire. »

Plus d’un tiers des consommateurs reconnaissent avoir déjà subi une tentative d’escroquerie par deepfake (36 %)[3]. Cette technique représente un risque significatif pour les entreprises et pour les individus. Un deepfake non détecté peut avoir d’importantes conséquences financières, causer des pertes d’emplois, des problèmes juridiques, une atteinte à la réputation, un vol d’identité, voire des risques potentiels pour la santé mentale ou physique.

Le FBI a notamment mis en garde contre son utilisation en conjonction avec des appels vidéo pour effectuer des attaques de compromission de courrier électronique professionnel et pour postuler frauduleusement à des postes de travail à distance.

Cette technologie est non seulement utilisée de manière abusive pour contourner la vérification humaine mais aussi les mesures de sécurité biométriques comme la reconnaissance faciale. La recherche de Trend a également permis de révéler des changements récents dans le comportement des acteurs de la menace pour l’exploitation des modèles LLM existants par le biais de techniques innovantes de jailbreak plutôt que pour le développement d’outils IA frauduleux sur mesure.

Le lancement des nouvelles solutions de Trend s’inscrit dans la mission globale de l’entreprise de sécuriser le parcours IA de ses clients. En soutenant une stratégie de Zero Trust, Trend a récemment publié de nouvelles fonctionnalités pour Trend Vision One conçues pour :

• Centraliser la gestion de l’accès et de l’utilisation de la GenAI par les employés,
• Inspecter les invités pour prévenir les fuites de données et les injections malveillantes,
• Filtrer le contenu de l’interface de GenAI pour répondre aux exigences de conformité,
• Se défendre contre les attaques de modèles de langage étendus (LLM).

Trend Micro Deepfake Inspector est une solution gratuite conçue pour alerter les utilisateurs de potentiels deepfakes lors d’un appel vidéo. L’analyse s’effectue en temps réel et localement sur l’appareil du consommateur, garantissant que les données et la vie privée des utilisateurs sont toujours protégées.

Pour en savoir plus et télécharger Trend Micro Deepfake Inspector, cliquez ici.

[1] Etude Trend Micro – août 2024 : L’étude Deepfake de Trend révèle que plus des deux tiers sont préoccupés par les escroqueries Deepfake

[2] Gartner, Technologies émergentes : Combattre les deepfakes, la tromperie et la désinformation dans le contenu multimédia, Dan Ayoub, 17 avril 2024.

[3] Etude Trend Micro – août 2024 : Escroqueries deepfake à surveiller en 2024