Avec l’IA générative, l’ingénierie sociale devient plus dangereuse et plus difficile à repérer
« S’il y a un bien métier que l’IA générative ne peut pas voler, c’est celui d’escroc. »
C’est ainsi que Stephanie Carruthers, responsable mondiale de la cyberprotection et responsable du piratage d’IBM, se souvient de ce qu’elle a ressenti en 2022. ChatGPT avait récemment fait connaître l’intelligence artificielle générative au grand public. Sa combinaison de compétences linguistiques étrangement humaines et de bases de connaissances approfondies en amenait plus d’un à se demander comment elle pourrait changer le monde.
Et son impact sur leur travail.
« Lorsqu’elle a été introduite pour la première fois, les gens n’arrêtaient pas de me demander : "vous avez peur que l’IA vous prenne votre emploi ?", raconte Mme Carruthers. Je pensais que ce n’était pas possible. Il fallait que l’IA puisse vraiment comprendre une personne et élaborer une campagne personnalisée contre elle avant que cela ne se produise. »
Dans le cadre d’IBM® X-Force, Mme Carruthers organise des simulations d’ingénierie sociale et des cyberattaques pour aider les entreprises à renforcer leurs défenses contre les attaques réelles. Les premiers modèles d’IA générative pouvaient créer des escroqueries par phishing assez génériques, mais ils ne pouvaient pas mener à bien les attaques sophistiquées qui causent de graves dommages. Ces stratagèmes exigent des recherches approfondies, une planification minutieuse et des prétextes très ciblés.
Mais beaucoup de choses peuvent se passer en deux ans et demi. Aujourd’hui, de nombreux grands modèles de langage (LLM) peuvent effectuer des recherches sur Internet en temps réel. Capables de concevoir des workflows et d’exécuter des tâches de manière autonome, les agents d’IA peuvent aller plus loin en exploitant les informations qu’ils découvrent pour éclairer leurs actions.
Imaginer un bot basé sur l’IA capable d’adapter parfaitement les attaques d’ingénierie sociale à des individus spécifiques ne semble plus si farfelu. Tout ce dont il a besoin, c’est d’un acteur de la menace pour le mettre en marche.
« Nous avons atteint un stade inquiétant, déclare Mme Carruthers. Avec très peu de prompts, un modèle d’IA peut écrire un message de phishing qui m’est destiné. C’est terrifiant. »
Renforcez vos renseignements de sécurité
Gardez une longueur d’avance sur les menaces grâce à l’actualité et aux réflexions sur la sécurité, l’IA et bien plus encore, dans la newsletter hebdomadaire Think.
Selon l’IBM® X-Force Threat Intelligence Index 2025, les acteurs de la menace mènent aujourd’hui, en moyenne, des campagnes plus importantes et plus vastes que par le passé. Cette évolution est en partie due à un changement de tactique, de nombreux attaquants s’étant tournés vers des attaques de la chaîne d’approvisionnement qui touchent de nombreuses victimes à la fois.
Mais il s’agit également d’un changement d’outils. De nombreux pirates ont pris l’IA générative comme stagiaire ou assistant, l’employant pour créer des sites Web, générer des codes malveillants et même rédiger des e-mails de phishing. L’IA aide donc les acteurs de la menace à mener davantage d’attaques en moins de temps.
« Les modèles d’IA aident vraiment les attaquants à nettoyer leurs messages, explique Mme Carruthers. Ils les rendent plus succincts, plus urgents, afin que plus de gens tombent dans le panneau. »
Mme Carruthers souligne que les fautes de grammaire et les tournures de phrases maladroites figurent depuis longtemps parmi les signaux d’alarme les plus courants dans les tentatives de phishing. Les cybercriminels ont tendance à ne pas vérifier assidûment l’orthographe, et ils écrivent souvent dans une deuxième ou une troisième langue, ce qui entraîne un plus grand nombre d’erreurs dans l’ensemble.
Mais les outils d’IA générative peuvent produire des textes techniquement parfaits dans pratiquement toutes les principales langues du monde. Cela permet de dissimuler certains des indices d’ingénierie sociale les plus évidents et de tromper un plus grand nombre de victimes.
L’IA peut également rédiger ces messages beaucoup plus rapidement qu’une personne. Mme Carruthers et l’équipe X-Force ont fait des essais et ont constaté que l’IA générative peut écrire un e-mail de phishing efficace en cinq minutes. Pour une équipe humaine, la rédaction d’un message semblable prend environ 16 heures, dont la majeure partie est consacrée à des recherches approfondies sur les cibles.
Il faut également tenir compte du fait que la technologie deepfake permet aux modèles d’IA de créer de fausses images, de faux appels audio et même vidéo, ce qui donne encore plus de crédibilité à leurs stratagèmes.
Rien qu’en 2024, les Américains ont perdu 12,5 milliards de dollars à cause d’attaques de phishing et d’autres fraudes. Ce chiffre pourrait augmenter à mesure que les escrocs utilisent l’IA générative pour créer des messages plus convaincants, dans davantage de langues et en moins de temps.
Et avec l’arrivée d’agents d’IA, les fraudeurs peuvent étendre leurs opérations encore plus loin.
La recherche fait souvent la différence entre une cyberattaque ratée et une cyberattaque réussie. En étudiant leurs cibles, qu’il s’agisse d’entreprises ou d’individus, les acteurs de la menace peuvent élaborer des plans parfaitement adaptés, rédiger des histoires qui touchent habilement la corde sensible et développer des logiciels malveillants qui s’attaquent aux bonnes vulnérabilités.
Or, les attaquants peuvent trouver la plupart des informations dont ils ont besoin en ligne.
« Vous pouvez en apprendre beaucoup sur une personne rien qu’en consultant ses réseaux sociaux, le site de son entreprise, ou n’importe quelle autre source sur Internet, explique Mme Carruthers. Les gens mettent tellement d’informations dans les articles de blog, les communiqués de presse, les médias et même les offres d’emploi. »
Les offres d’emploi sont un bon exemple de la manière dont les attaquants peuvent retourner des informations apparemment inoffensives contre leurs victimes.
« En lisant votre offre d’emploi, je peux savoir à quoi ressemble votre pile technologique et connaître vos fournisseurs, explique Mme Carruthers. Je peux donc adapter mes logiciels malveillants à votre environnement. Je connais les fournisseurs que je peux usurper. »
Des experts comme Mme Carruthers craignent qu’avec les agents d’IA, qui peuvent concevoir des workflows et employer des outils pour atteindre des objectifs complexes, les pirates puissent automatiser plus que des e-mails de phishing et des sites Web frauduleux.
Les attaquants peuvent théoriquement se servir d’agents d’IA pour recueillir des informations, les analyser, élaborer un plan d’attaque et générer de faux messages et des deepfakes à utiliser dans le cadre de l’attaque.
Ce processus va bien au-delà de la création de variantes d’un même message de phishing avec différents styles d’écriture pour diverses cibles. Il s’agit d’une forme généralisée de phishing superciblé, largement considéré comme la forme la plus efficace d’ingénierie sociale.
Les experts en cybersécurité n’ont pas encore détecté d’agents d’IA malveillants dans la nature en nombre significatif, mais ce n’est peut-être qu’une question de temps. Un article récent de la MIT Technology Review cite Mark Stockley de Malwarebytes : « Je pense que nous finirons par vivre dans un monde où la majorité des cyberattaques seront menées par des agents. La seule question est de savoir quand cela sera un réalité. »
À l’ère de l’IA générative, de nombreux moyens de défense traditionnellement fiables contre les attaques d’ingénierie sociale ne suffisent plus.
« La première chose que nous enseignons à nos employés est de faire attention à la grammaire, aux fautes de frappe et à ce genre d’éléments, explique Mme Carruthers. Ce n’est plus vraiment pertinent pour les attaquants sophistiqués qui se servent de l’IA. »
Si ces signaux d’alarme stylistiques ne fonctionnent plus, une option consiste à réorienter la formation de sensibilisation à la sécurité vers des discussions plus approfondies sur les tactiques d’ingénierie sociale.
Les ingénieurs sociaux s’appuient fortement sur l’usurpation d’identité, les fausses informations et la manipulation émotionnelle, comme l’a déjà expliqué Mme Carruthers. Les escroqueries alimentées par l’IA font peut-être moins de fautes d’orthographe, mais elles s’appuient toujours sur les mêmes tropes et modèles que les attaques classiques d’ingénierie sociale. Si les employés apprennent à repérer ces signes révélateurs, ils pourront déjouer davantage de cybercrimes.
Signal d’alarme n° 1 : des émotions fortes
Les ingénieurs sociaux s’appuient sur la psychologie humaine, comme la curiosité, la peur, le désir d’aider et le désir de s’intégrer. Les escrocs conçoivent leurs messages pour susciter ces émotions : « Il faut que vous envoyiez cet argent tout de suite, ou quelque chose d’extrêmement grave va se produire. »
La plupart des interactions légitimes sur le lieu de travail ont une charge émotionnelle bien moindre. Les emplois peuvent être stressants, les collègues peuvent être passifs-agressifs et les patrons peuvent être exigeants, mais la plupart des gens essaient de conserver un minimum de politesse.
Les demandes, même urgentes, ont tendance à prendre un ton plus neutre : « Pouvez-vous vous assurer que cette facture soit payée aujourd’hui ? Nous avons du retard en raison d’une erreur d’écriture, et je ne veux pas contrarier le fournisseur. »
Une demande importante, exprimée avec beaucoup d’émotion, doit vous inciter à prendre un instant pour réfléchir.
Signal d’alarme n° 2 : des intrigues recyclées
Les ingénieurs sociaux sont des conteurs, et ils ont tendance à s’en tenir à quelques accroches qui ont déjà fait leurs preuves. En voici quelques-unes :
Je suis votre patron, et j’ai besoin de votre aide. Ne me posez aucune question.
Je travaille pour un fournisseur informatique/de cybersécurité/technologique, et votre système est compromis. Nous devons agir maintenant.
Je suis un fournisseur et je mets fin à mes services immédiatement si vous ne faites pas ce que je vous demande.
Je suis un agent des forces de l’ordre ou un fonctionnaire, et vous irez en prison aujourd’hui si vous ne payez pas cette amende.
Je suis un parfait inconnu, mais j’ai une incroyable opportunité d’investissement à vous proposer.
Je travaille pour la poste, et un problème est survenu avec la livraison de votre colis. Cliquez sur ce lien pour le résoudre.
Je travaille pour un service ou une marque en qui vous avez confiance, et votre compte a été piraté. Agissez maintenant pour y remédier.
Je travaille pour un service ou une marque en qui vous avez confiance, et nous avons une offre exceptionnelle à vous proposer. Agissez dès maintenant pour en profiter.
Cela dit, les attaquants les plus rusés personnalisent leur histoire autant que possible. Au lieu de s’en tenir à une vue d’ensemble, Mme Carruthers recommande aux entreprises d’aligner leur formation en matière de sécurité sur les types de cybermenaces auxquelles leurs employés sont le plus susceptibles d’être confrontés.
« Réévaluez la nature de votre formation de sensibilisation à la sécurité en fonction des attaques qui se produisent actuellement dans votre entreprise, explique Mme Carruthers. Vous recevez des types d’appels téléphoniques frauduleux spécifiques ? Intégrez-les dans votre formation. »
Outre le remaniement du contenu des formations, Mme Carruthers conseille d’en effectuer plus souvent. Cela peut aider à mémoriser les leçons et les conseils, ce qui augmente la probabilité que le personnel utilise réellement les mesures de sécurité enseignées.
« Les employés sont généralement les premiers à être attaqués pour compromettre l’ensemble d’une entreprise, explique Mme Carruthers. S’ils suivent une formation d’une heure par an, est-ce vraiment suffisant ? »
Les gens peuvent détecter plus d’attaques en cours en recherchant les signaux d’alarme. Mais ils peuvent aussi empêcher certaines attaques en limitant ce qu’ils publient.
« Il est très important que les individus et les entreprises soient conscients de ce qu’ils mettent en ligne », explique Mme Carruthers.
En termes d’ingénierie sociale, la puissance de la technologie de l’IA et des LLM provient de leur capacité à recueillir et à analyser de grands volumes d’informations sur les cibles. En l’absence de telles informations, les outils d’IA ne peuvent pas concevoir d’attaques personnalisées, ce qui les empêche de tromper les victimes, quelle que soit la qualité de la rédaction.
Mme Carruthers souligne qu’il est couramment conseiller « d’éviter de partager trop d’informations », mais que ce conseil est souvent interprété comme « ne publiez pas d’informations confidentielles en ligne ». Or, les escrocs peuvent exploiter des informations non sensibles pour rendre leurs attaques plus convaincantes.
« Beaucoup d’offres d’emploi présentent un organigramme : "ce poste est placé sous la responsabilité de ce poste, et ces postes sont placés sous sa responsabilité", explique Mme Carruthers. Ces informations sont précieuses. J’ai une idée de ce à quoi ressemble votre entreprise. Je connais les intitulés de postes à utiliser et le rôle que je dois prétendre avoir. »
Si les particuliers peuvent définir des paramètres de confidentialité stricts sur leurs comptes de réseaux sociaux, cette approche n’est pas très pratique pour les entreprises. Mais les entreprises peuvent être plus prudentes quant à ce qu’elles diffusent, par exemple en brouillant les badges des employés sur les photos.
« La plupart des gens ne pensent pas qu’une photo du badge d’un employé soit très utile, explique Mme Carruthers. Mais du point de vue de l’ingénierie sociale, je peux maintenant reproduire ce badge, ce qui facilite grandement mon entrée dans un bâtiment auquel je ne devais pas avoir accès. »