Les pertes liées à la fraude au Royaume-Uni ont atteint 1,3 milliard de livres sterling, mettant en évidence l’ampleur croissante du problème alors que les réseaux criminels adoptent des technologies toujours plus performantes. L’intelligence artificielle aide les attaquants à rendre les escroqueries plus rapides, plus convaincantes et plus faciles à déployer, créant un nouveau défi pour les banques et les autres Institutions financières.

L’IA générative peut industrialiser l’ingénierie sociale en réduisant le coût des attaques sophistiquées. Des techniques qui nécessitaient autrefois des groupes criminels spécialisés deviennent plus largement accessibles, permettant aux fraudeurs de produire des identités synthétiques, de construire des historiques de crédit crédibles et de passer les contrôles de connaissance du client (Know Your Customer) avant de rester indétectés pendant de longues périodes.

Les attaques reposant sur des hypertrucages sont également utilisées pour imiter des voix et des vidéos avec suffisamment de réalisme pour convaincre des personnes d’autoriser des transactions ou de communiquer leurs identifiants d’accès. Ces méthodes ciblent ce que l’article décrit comme la « couche de confiance » : le moment où une personne ou un système décide qu’une action est légitime.

Cela pose un problème particulier aux contrôles de sécurité traditionnels. Au lieu de contourner directement les systèmes d’une banque, les criminels peuvent manipuler les clients afin qu’ils autorisent eux-mêmes les transactions. Lorsque l’activité atteint l’infrastructure de l’institution, elle peut donc sembler techniquement légitime, bien qu’elle ait été déclenchée par une tromperie.

À mesure que les banques améliorent la détection fondée sur l’IA, les attaquants pourraient de plus en plus se tourner vers les institutions elles-mêmes. L’article avertit que le secteur pourrait passer d’une phase où la technologie est principalement utilisée pour manipuler les individus à une phase où l’IA sonde et attaque directement les organisations financières.

Les mesures de sécurité statiques sont mal adaptées à des adversaires qui testent, adaptent et perfectionnent continuellement leurs méthodes. Les attaques pilotées par l’IA peuvent cartographier les limites des systèmes de détection et rester délibérément en dehors de celles-ci, faisant de la prévention de la fraude une tâche permanente de recherche plutôt qu’un processus uniquement axé sur la réponse à des incidents individuels.

Les équipes les plus efficaces sont décrites comme celles qui étudient les changements de comportement susceptibles d’indiquer qu’une attaque est en phase de test. Cette approche exige des professionnels qu’ils comprennent le raisonnement statistique, la pensée adversariale, la conception des systèmes et les boucles de rétroaction, plutôt que de s’appuyer uniquement sur leur expertise d’outils de sécurité particuliers.

Les organisations qui ne disposent pas de ces capacités peuvent intégrer des outils d’IA externes à leurs opérations existantes. L’article souligne l’importance de solutions qui associent analyse statistique, raisonnement et explicabilité, tout en veillant à ce que les systèmes nouvellement déployés soient évalués comme des surfaces d’attaque potentielles dès le départ.

Les défenses fondées sur l’IA doivent également fonctionner assez rapidement pour évaluer les transactions en quelques millisecondes sans perturber les clients. L’analyse en temps réel peut comparer des centaines de signaux à des modèles historiques afin d’identifier les anomalies, aidant les institutions à réagir à des attaques de plus en plus automatisées tout en préservant une expérience bancaire utilisable.

Sources: TechRadar.