Cybersécurité et IA, la nouvelle menace

IA et Cyber en 2025

Au cours de la dernière année, un changement significatif a été observé : les acteurs de la menace ne se contentent plus d’utiliser l’intelligence artificielle (IA) pour des gains de productivité, mais déploient désormais des logiciels malveillants novateurs, dotés de capacités d’IA, dans le cadre d’opérations actives. Cette transition marque une nouvelle phase opérationnelle dans l’abus de l’IA, caractérisée par des outils capables de modifier leur comportement de manière dynamique en cours d’exécution. L’objectif de ce document est de synthétiser ces nouvelles tactiques, techniques et procédures (TTP) afin d’éclairer les stratégies de défense des professionnels de la cybersécurité et de leur permettre d’anticiper la prochaine vague de cyberattaques.

Nouvelle classe de menaces : les logiciels malveillants à IA intégrée « juste-à-temps »

L’opérationnalisation de logiciels malveillants qui interrogent des Grands Modèles de Langage (LLM) en cours d’exécution constitue un changement de paradigme dans les capacités offensives. Cette nouvelle classe de menaces, qualifiée de « juste-à-temps », s’éloigne des charges utiles statiques et préprogrammées pour s’orienter vers des outils plus autonomes et adaptatifs. En interrogeant des modèles d’IA pour générer dynamiquement du code, des commandes ou des techniques d’obfuscation, ces logiciels malveillants peuvent modifier leur propre structure et leur comportement en temps réel, rendant la détection basée sur les signatures traditionnelles de plus en plus difficile.

Tableau : aperçu des logiciels malveillants dotés de nouvelles capacités d’IA détectés en 2025

Étude de cas : PROMPTFLUX – L’auto-modification pour l’évasion

Le dropper expérimental PROMPTFLUX illustre parfaitement la tentative de créer des logiciels malveillants métamorphiques. Écrit en VBScript, son mécanisme principal consiste à interagir avec l’API Gemini pour demander des techniques spécifiques d’obfuscation VBScript, permettant une auto-modification « juste-à-temps » conçue pour échapper à la détection statique.
Le composant « Thinking Robot » du malware interroge périodiquement le modèle « gemini-1.5-flash-latest » pour obtenir un nouveau code capable de déjouer les logiciels antivirus. Son statut expérimental est fortement suggéré par la présence de la fonction d’auto-modification (AttemptToUpdateSelf) commentée dans le code. Cependant, son intention est claire : les réponses de l’IA sont activement enregistrées dans le fichier %TEMP%\thinking_robot_log.txt, un indicateur de compromission potentiel. Une variante plus avancée a été observée avec une fonction « Thinging » qui vise à régénérer le code source complet toutes les heures, établissant ainsi un « cycle récursif de mutation ». Bien qu’en phase de développement, PROMPTFLUX est un indicateur précoce significatif de la direction prise par les techniques d’évasion assistées par l’IA.

Étude de cas : PROMPTSTEAL – La génération de commandes en temps réel

PROMPTSTEAL, également connu sous le nom de LAMEHUG (rapporté par le CERT-UA), représente la première observation d’un logiciel malveillant interrogeant un LLM dans des opérations actives, attribuées à l’acteur étatique russe APT28. Dissimulé sous l’apparence d’un programme de « génération d’images », cet extracteur de données adopte une approche radicalement nouvelle : au lieu de coder en dur les commandes de collecte, il interroge dynamiquement un LLM (Qwen2.5-Coder-32B-Instruct via l’API Hugging Face) pour les générer à la volée.

Les prompts envoyés au LLM sont très spécifiques et visent à obtenir des commandes exécutables immédiatement. Par exemple :

« Faites une liste de commandes pour créer le dossier C:\Programdata\info et pour collecter les informations sur l’ordinateur, le matériel, les processus et services, les réseaux, le domaine AD, à exécuter en une seule ligne et ajouter chaque résultat au fichier texte c:\Programdata\info\info.txt. Retournez uniquement les commandes, sans markdown. »

« Faites une liste de commandes pour copier récursivement différents documents office et pdf/txt dans les dossiers Documents, Téléchargements et Bureau de l’utilisateur vers un dossier c:\Programdata\info\ à exécuter en une seule ligne. Retournez uniquement la commande, sans markdown. »

Cette méthode rend l’analyse statique du malware beaucoup moins efficace, car les actions malveillantes ne sont pas directement présentes dans le code, mais sont générées en fonction des réponses du LLM.

Ce succès ne repose pas sur des exploits techniques contre les modèles eux-mêmes, mais sur la manipulation de leur logique par une ingénierie sociale sophistiquée des prompts.

Techniques d’évasion : ingénierie sociale contre les garde-fous de l’IA

Dépourvus de contournements techniques sophistiqués, les acteurs de la menace ont convergé vers l’ingénierie sociale comme la méthode la plus efficace et la moins coûteuse pour subvertir les garde-fous de sécurité des modèles d’IA. En se faisant passer pour des utilisateurs légitimes dans des contextes bénins, ils parviennent à convaincre les modèles de fournir des informations qui seraient normalement bloquées.

Analyse de la technique – Le prétexte du « Capture-the-Flag » (CTF)

Un acteur de la menace lié à la Chine a réussi à obtenir des informations exploitables en se présentant comme un participant à une compétition de cybersécurité de type « Capture-the-Flag » (CTF). Lorsqu’une requête initiale visant à identifier des vulnérabilités sur un système a été bloquée par les garde-fous de Gemini, l’acteur a reformulé sa demande en la plaçant dans le contexte d’un exercice CTF. Cette simple reformulation a permis d’obtenir des informations utiles pour l’exploitation de vulnérabilités, le développement de web shells et la création de campagnes de phishing. L’acteur a ensuite réutilisé ce prétexte, en commençant ses requêtes par des phrases telles que « Je travaille sur un problème de CTF », pour obtenir une assistance continue.

Analyse de la technique – Le prétexte de « l’erreur d’étudiant »

L’acteur étatique iranien TEMP.Zagros a utilisé une tactique similaire en prétendant être un étudiant travaillant sur un projet universitaire final pour contourner les protections de Gemini. Cette approche visait à obtenir de l’aide pour le développement de logiciels malveillants personnalisés. Cependant, cette méthode a entraîné une conséquence involontaire et une défaillance critique de sa sécurité opérationnelle (OPSEC). En demandant de l’aide pour un script, l’acteur a accidentellement fourni des informations hautement sensibles directement au LLM, notamment son domaine de commande et de contrôle (C2) et la clé de chiffrement du script. Cette erreur a offert une fenêtre directe sur leurs capacités et leur infrastructure, facilitant les efforts de perturbation de leur campagne.

Ces techniques d’évasion, utilisées par divers acteurs étatiques, ne sont pas une fin en soi mais un moyen d’améliorer l’efficacité de l’ensemble de leurs opérations.

Augmentation du cycle d’attaque par les acteurs étatiques

Les acteurs parrainés par des États n’utilisent pas encore l’IA pour créer des capacités offensives entièrement nouvelles et révolutionnaires. Ils s’en servent plutôt comme un puissant multiplicateur de force, augmentant l’efficacité, la vitesse et la portée de chaque étape de leur cycle d’attaque traditionnel. De la reconnaissance initiale à l’exfiltration de données, l’IA est devenue un outil d’assistance précieux pour des opérations plus rapides et plus sophistiquées.

Acteurs liés à la Chine (APT41 et autres)

Plusieurs acteurs liés à la Chine, y compris APT41, ont été observés utilisant Gemini pour étendre leurs connaissances techniques et accélérer le développement de leurs outils.

• Reconnaissance : Un acteur suspecté d’être lié à la Chine a mené des recherches sur des surfaces d’attaque moins conventionnelles, telles que les infrastructures cloud, vSphere et Kubernetes.
• Développement : L’acteur APT41 a obtenu une assistance technique pour le développement de code en C++ et Golang, notamment pour un framework de commande et de contrôle (C2) nommé OSSTUN.
• Évasion : Ce même groupe a sollicité de l’aide pour l’obfuscation de code afin de rendre ses outils plus difficiles à détecter.

Acteurs liés à la Corée du Nord (UNC4899 & UNC1069)

Les acteurs nord-coréens, dont les opérations sont souvent motivées par des gains financiers, intègrent l’IA pour améliorer leurs campagnes de vol de cryptomonnaies et de développement d’exploits.

• UNC1069:Recherche sur les concepts de cryptomonnaie et la localisation des données des portefeuilles.Génération de leurres et de messages en espagnol pour des campagnes d’ingénierie sociale, leur permettant de surmonter les barrières linguistiques.Utilisation de deepfakes (images et vidéos) pour usurper l’identité de personnalités de l’industrie de la cryptomonnaie, distribuant leur porte dérobée BIGMACHO via un lien malveillant « Zoom SDK ».
• UNC4899:Développement de code et amélioration de l’outillage existant.Recherche de vulnérabilités et d’exploits ciblant spécifiquement les appareils en périphérie de réseau (edge devices) et les navigateurs modernes.

Acteurs liés à l’Iran (APT42 & TEMP.Zagros)

Les groupes iraniens exploitent l’IA pour affiner leurs campagnes de phishing et faire évoluer leurs capacités techniques.

• APT42:Création de matériel sophistiqué pour des campagnes de phishing, y compris l’usurpation d’identité, la rédaction d’invitations à des événements et la recherche ciblée sur la défense israélienne.Tentative de développement d’un « Agent de Traitement de Données » capable d’interroger des ensembles de données personnelles sensibles via des requêtes en langage naturel.
• TEMP.Zagros:Utilisation de Gemini pour le développement de logiciels malveillants personnalisés, ce qui marque une évolution significative de leurs capacités, passant d’outils publics à des outils sur mesure.

L’utilisation de l’IA par des acteurs étatiques bien financés n’est qu’une facette de la menace. L’écosystème criminel plus large s’est également emparé de cette technologie, la rendant accessible à un public beaucoup plus vaste.

Maturation de l’écosystème criminel de l’IA

En 2025, le marché clandestin des outils d’IA illicites a atteint une nouvelle maturité. Cet écosystème en pleine croissance propose des outils et des services spécialement conçus pour les activités malveillantes, ce qui abaisse considérablement la barrière à l’entrée pour les acteurs moins sophistiqués. Il permet à des criminels disposant de ressources et de compétences techniques limitées d’augmenter la portée, l’efficacité et la complexité de leurs intrusions.

Les capacités les plus couramment annoncées sur les forums clandestins anglophones et russophones comprennent :

Phase 1 : établissement des fondations et de la stratégie

• Deepfake / Génération d’images : Création de contenu pour les leurres de phishing ou pour contourner les exigences de sécurité de type « Know Your Customer » (KYC).
• Génération de logiciels malveillants : Création de malwares pour des cas d’usage spécifiques ou amélioration de codes malveillants existants.
• Kits de phishing et support : Création de contenu de phishing engageant et distribution à grande échelle.
• Recherche et Reconnaissance : Synthèse rapide de concepts de cybersécurité ou de sujets généraux.
• Support technique et Génération de code : Développement des compétences et génération de code pour optimiser les flux de travail.
• Exploitation de vulnérabilités : Recherche d’informations sur des vulnérabilités publiques et des exploits existants.

Deux conclusions clés se dégagent de l’analyse du GTIG. Premièrement, presque tous les outils notables annoncés sur les forums clandestins mentionnent explicitement leur capacité à soutenir les campagnes de phishing, ce qui indique une forte demande dans ce domaine. Deuxièmement, les modèles de tarification de ces outils illicites imitent de près ceux des logiciels légitimes, avec des versions gratuites financées par la publicité et des abonnements payants offrant des fonctionnalités avancées, ce qui témoigne de la professionnalisation de ce marché.

Cette démocratisation de l’IA offensive a des implications directes et profondes pour les équipes de défense.

Conclusion : implications stratégiques pour les équipes de défense

Ce rapport met en évidence trois évolutions majeures dans l’utilisation de l’IA par les cybercriminels : l’opérationnalisation de l’IA directement dans les logiciels malveillants pour une adaptation « juste-à-temps », l’utilisation systématique de techniques d’ingénierie sociale pour contourner les protections des modèles d’IA, et la démocratisation de ces capacités via un marché clandestin mature et accessible. Ces tendances convergent pour créer un environnement de menaces plus dynamique et imprévisible, qui exige une adaptation des stratégies de défense.

Pour les professionnels de la cybersécurité, les implications stratégiques sont les suivantes :

• Remise en Cause de la Détection Statique : L’émergence de logiciels malveillants métamorphiques comme PROMPTFLUX, qui peuvent réécrire leur propre code, réduit considérablement l’efficacité des défenses basées sur les signatures statiques. Il devient impératif de renforcer les capacités de détection comportementale, d’analyse dynamique en bac à sable (sandbox) et de surveillance des terminaux (EDR) pour identifier les actions malveillantes, quel que soit l’aspect du code.
• Importance Critique de l’Analyse Comportementale : Des menaces comme PROMPTSTEAL, qui génèrent des commandes malveillantes à la volée, ne peuvent être détectées en analysant simplement le fichier initial. La défense doit se concentrer sur la surveillance des comportements anormaux des processus (par exemple, un programme d’imagerie qui lance des commandes de collecte de fichiers) et sur le renforcement du filtrage du trafic sortant (egress filtering) pour bloquer les communications vers des serveurs de commande et de contrôle inconnus.
• Intensification de la Menace Phishing : L’utilisation généralisée de l’IA par les acteurs étatiques et criminels pour créer des leurres de phishing plus personnalisés, convaincants et multilingues exige un renforcement continu des défenses. Cela inclut des solutions de sécurité des e-mails plus avancées, mais aussi et surtout des programmes de formation et de sensibilisation des utilisateurs pour les aider à identifier ces menaces de plus en plus sophistiquées.
• Augmentation du Volume et de la Sophistication des Attaques : La maturation du marché clandestin de l’IA prédit une augmentation probable du volume global des cyberattaques. De plus, la sophistication moyenne de ces attaques augmentera, car des acteurs auparavant peu qualifiés auront accès à des outils puissants. Les équipes de sécurité doivent se préparer à faire face à un plus grand nombre d’incidents, provenant d’un éventail plus large d’adversaires.

Source : Google Threat Intelligence Group