ChatGPT est-il le meilleur ami des fraudeurs ? 

Il y a quelques jours, j’ai suivi une conférence dans la cadre d’une campagne de sensibilisation à la sécurité à Société Générale. En tant que grande banque européenne au service de plus de 25 millions de clients dans le monde, Société Générale se doit d’accorder une grande importance à la sécurité et sensibiliser ses collaborateurs. C’est pourquoi Rémi Larrousse, conférencier mentaliste et illusionniste, est intervenu pour nous présenter les mécanismes psychologiques utilisés par les fraudeurs pour nous piéger. Entre démonstrations sur des membres du public et explications de ses techniques, le verdict est sans appel : les fraudeurs ont des techniques de plus en plus perfectionnées et nous manipulent grâce à des failles de nos cerveaux, et encore, nous étions prévenus que nous allions être manipulés par le conférencier. Les ressorts psychologiques utilisés par les fraudeurs sont, par exemple : l’empathie, la fragmentation de l’attention, ou encore la création d’une urgence. 

Et le rôle de l’IA dans tout ça ? 

J’ai appris, au cours de cette conférence, que les fraudeurs utilisent l’IA pour perfectionner leurs méthodes. ChatGPT peut donc être un assistant pour l’humain tout en lui plantant un couteau dans le dos (vous m’excuserez de l’expression un tantinet violente pour parler d’une technologie, #Terminator). Ainsi, les types d’attaque qui se sont développées avec l’IA sont multiples. 

Le conférencier a étayé son propos en nous parlant d’exemples très concrets sur l’utilisation de l’IA par les fraudeurs. Entre autres ChatGPT peut aider le fraudeur à écrire des lignes de code afin de créer un malware (logiciel malveillant développé dans le but de nuire à un système informatique), perfectionner ses actions de phishing en demander à l’intelligence artificielle de corriger ses fautes et le traduire dans plusieurs langues. Une étude a même fait le lien entre l’utilisation à grande échelle de l’agent conversationnel ChatGPT et l’augmentation de 1265% des attaques d’hameçonnage en l’espace de deux mois… 

Et à ce moment précis, j’ai réalisé qu’on a beau être la personne la plus vigilante au monde, on peut tout de même se faire avoir. Et ce n’est pas une question d’intelligence ni de naïveté, mais c’est lié à certaines failles de nos manières de penser et à la technicité des attaques. De plus, comme l’a souligné le conférencier, notre plus grande vulnérabilité est de penser qu’on ne se fera jamais avoir et que ça n’arrive qu’aux autres. 

Laissez-moi prendre un exemple personnel pour illustrer ce propos : je suis de nature très observatrice, par conséquent, je fais toujours attention à mes affaires dans les transports, je préviens même mes proches quand ils sortent leur portable/ portefeuille dans un espace public et qu’un danger potentiel peut advenir. Pourtant, il y a une semaine, il a suffi de deux minutes d’inattention de ma part, après avoir rangé rapidement mon portable dans la poche de mon manteau en raccrochant d’un appel, pour me le faire voler. J’en ai tiré une leçon : ne jamais se penser au-dessus de ce type de situation car personne n’est infaillible. 

Cependant, il est important de contrebalancer la vision néfaste de l’intelligence artificielle car cette dernière peut également être utilisée pour renforcer la sécurité des systèmes informatiques en prédisant et détectant les menaces pour mieux les combattre. L’intelligence artificielle, de par l’automatisation des tâches, son accès à de très nombreuses informations, son amélioration et sa prise de décisions intelligentes via le machine learning, lui permet de perfectionner les systèmes de sécurité. L’IA peut, entre autres, fournir des informations concernant toutes les cybermenaces connues à l’échelle mondiale, surveiller les activités réseau et identifier les anomalies, et détecter les menaces via les métadonnées et techniques d’apprentissage automatique. 

Microsoft a, par exemple, développé une IA conversationnelle, sur la base de GPT, Security Copilot, et l’a intégré à son département de cybersécurité. L’IA permet, en interaction avec les analystes, d’analyser plus rapidement les données et de déterminer si un fichier présente un risque de sécurité. Ainsi l’intelligence artificielle leur permet de répondre plus rapidement aux incessantes menaces que reçoit leur système. 

Comment fonctionne l'IA conversationnelle développée par Microsoft

Alors, l’IA, meilleure amie ou pire ennemie ? Je veux répondre les deux. Utilisée à la fois par les défenseurs de la cybersécurité et par les cybercriminels, l’IA semble être un outil neutre qui, manipulé par de mauvaises mains, peut s’avérer néfaste. Il est donc nécessaire de s’informer sur les dernières technologies et les menaces qui peuvent en découler. Il est également tout aussi important de sensibiliser un maximum de personnes sur la nature des cyberattaques et stimuler leur vigilance pour mieux s’en prémunir. 

Un grand merci à Rémi Larrousse pour cette conférence passionnante et très instructive sur les mécanismes de fraude ! 

Si vous souhaitez en savoir plus sur le sujet :