200 000 « victimes » IA fictives déployées pour arnaquer les fraudeurs en ligne

L’entreprise technologique australienne Apate déploie dans le monde entier un vaste éventail de personnages contrôlés par des bots IA qui jouent le rôle de victimes crédules d’arnaques afin de faire perdre chaque mois des millions d’heures aux escrocs.

Fait assez hilarant, l’un des indicateurs mensuels de performance de l’entreprise est le nombre de fois où des escrocs frustrés insultent les « victimes » idiotes qui font semblant de ne rien comprendre et les font patienter.

« Je pense que nous sommes la seule entreprise au monde à comptabiliser réellement dans ses KPI le nombre de fois où les escrocs lâchent des “F” contre elles », explique en riant Dali Kaafar, fondateur d’Apate, à Magazine. 

L’entreprise dispose d’un éventail de près de 200 000 personnages IA capables de tenir des conversations téléphoniques convaincantes et de discuter sur les réseaux sociaux et les plateformes de messagerie.

”Je peux vous dire que nous gérons essentiellement, comme nous les appelons, des centaines de milliers d’appels par jour, et pratiquement des centaines de milliers de conversations sur les autres canaux”, dit-il. 

Chaque heure du temps d’un escroc qu’ils font perdre est une heure de plus pendant laquelle il n’arnaque pas un particulier. Au cours des six semaines précédant la fin de 2025, les bots d’Apate ont participé à 600 000 appels frauduleux pour un seul opérateur télécom, TPG, en Australie. 

« En tout, nous avons fait perdre plus de cinq cents jours de leur temps aux escrocs », explique-t-il. « Cela équivaut grosso modo à environ treize millions de dollars économisés. »

L’autre objectif des bots est de recueillir des renseignements exploitables pour les banques et les opérateurs télécoms afin de lutter contre les réseaux d’escroquerie en Australie, en Asie, en Afrique ainsi qu’au Royaume-Uni et en Europe.

Les bots d’Apate échangent avec les escrocs par chat. Source : Apate

Appâter les escrocs à grande échelle grâce aux victimes IA

Kaafar explique qu’il a eu l’idée après avoir reçu un appel frauduleux alors qu’il pique-niquait avec sa famille à Sydney, en novembre 2021.

Au grand désarroi de sa femme, mais pour le plus grand plaisir de ses enfants, il a fait durer la conversation pendant 44 minutes en se faisant passer pour un naïf crédule tombant dans le piège. 

« Ce qui a suivi a littéralement été un véritable spectacle comique pour mes enfants », raconte-t-il, ajoutant que, pendant l’appel, il avait également appris de nombreuses informations potentiellement utiles sur le fonctionnement de l’arnaque et les tactiques employées.   

« En raccrochant, je me souviens avoir pensé très clairement : si j’ai pu faire ça juste pour m’amuser, imaginez ce que la technologie peut accomplir à grande échelle. »

À l’époque professeur à l’Université Macquarie, il a évoqué l’idée avec certains de ses doctorants travaillant sur l’IA et la sécurité.

« J’ai dit : “Les gars, il doit y avoir une bien meilleure façon de faire ça. Construisons quelque chose qui automatise réellement tout ce processus d’interaction avec les escrocs à grande échelle, mais aussi, et c’est peut-être le plus important, qui extrait toutes sortes de renseignements de ces conversations.” Et c’est littéralement comme ça que tout a commencé. »

À lire aussi : Un bot doté d’IA remplace un candidat absent lors d’un débat en Virginie

En quelques mois, ils ont obtenu des financements de l’Office of National Intelligence pour rechercher cette idée, et le projet a été détaché de l’université pour devenir Apate en 2023. L’entreprise travaille désormais avec la plupart des grandes banques australiennes, ainsi qu’avec de nombreuses banques au Royaume-Uni, en Afrique du Sud et en Asie du Sud-Est. 

Apate est loin d’être la seule entreprise à appâter les fraudeurs à l’aide de bots IA — même si elle le fait à une échelle supérieure à la plupart des autres. L’opérateur télécom britannique O2 a lancé l’an dernier une campagne mettant en scène une mamie IA, qui exaspère les escrocs en leur faisant perdre des heures à parler de ses 28 chats. Il s’agissait tout autant d’une campagne publicitaire visant à avertir le public des dangers des appels frauduleux que d’autre chose.

La très divertissante mamie IA d’O2. Source : 02

Créer les victimes IA parfaites

Apate a été lancée avec 120 personas différents, couvrant divers genres, âges et types de personnalité, et en compte désormais 197 000, avec des tics vocaux et des accents reconnaissables ; ils émettent également les mêmes sons que les gens lorsqu’ils cherchent leurs mots. 

« Nous avons consacré beaucoup de temps à perfectionner et à concevoir ces bots IA pour qu’ils sonnent exactement comme vous, moi et nos voisins », explique-t-il. 

Les modèles IA ont été entraînés sur « des centaines et des centaines » d’heures de conversations enregistrées entre des appâteurs humains et des escrocs, afin de pouvoir employer des stratégies de contre-attaque.

« Ils savent qu’ils parlent à des méchants, si vous voulez, et ils orientent réellement les conversations de manière à ce que cela paraisse très, très réaliste à n’importe quel escroc, même si celui-ci est sceptique. »
Les bots sont envoyés sur WhatsApp et Telegram pour servir de pièges à miel aux escrocs. Même si le vieux cliché selon lequel on ne peut pas arnaquer un honnête homme est faux, il reste tout à fait possible d’exploiter l’avidité des escrocs. 

« Ce sont vraiment des cybercriminels. Je pense que nous oublions très souvent qu’ils sont des cybercriminels qui essaient de s’emparer des économies de toute une vie des gens. Et c’est donc parfois cet élément d’avidité que nos bots exploitent également. »

Les bots recueillent de précieux renseignements lors de chaque appel frauduleux

Dans le secteur des cryptomonnaies, Apate travaille pour « l’un des leaders de l’analyse de la blockchain », qui pourrait être Chainalysis — ou pas. Leur objectif n’est pas de faire perdre du temps aux escrocs : ils veulent obtenir des renseignements sur les portefeuilles et les méthodes utilisés par ces derniers afin de suivre les flux financiers. 

« À mesure qu’ils participent à différentes conversations, ces bots extraient des centaines et des milliers de nouvelles adresses de portefeuilles crypto », explique-t-il. « Ce sont des données et des renseignements qui arrivent littéralement avant que les dommages ne soient causés. »

L’escroquerie est une activité très lucrative, et les centres d’appels sont « pratiquement des organisations d’entreprise », explique Kaafar. 

« Ces données sont très, très importantes car, littéralement, c’est le nouveau compte ou le nouveau portefeuille auquel il faut vraiment prêter une attention particulière. Car c’est là que ces… complexes d’escrocs collectent leur argent ou leurs fonds. »

« Voyez cela littéralement comme le fait d’avoir toujours une longueur d’avance sur les tactiques des escrocs. Et plus vous en savez avant que l’argent ne soit transféré, mieux c’est. »

En juillet, les bots d’Apate ont découvert une place de marché pour des courtiers sollicitant des comptes bancaires vérifiés en Inde, avec des commissions pouvant atteindre 5 %, versées en USDT sur les recettes des escroqueries transitant par ces comptes.

Le personnel humain d’Apate à Sydney. Source : Apate

La course aux armements de l’IA entre les gentils et les méchants

Les escrocs utilisent eux-mêmes de plus en plus de bots IA, et il ne faudra pas longtemps avant que les escrocs IA soient aussi omniprésents que les courriels indésirables. Arnaquer les gens représente une activité de 1 240 milliards de dollars ; le secteur peut donc se permettre les capacités de calcul nécessaires pour accroître ses opérations.
Les recherches d’Apate suggèrent qu’environ 20 % à 30 % des conversations textuelles frauduleuses font déjà appel à l’IA, mais Kaafar ne s’inquiète pas trop de l’issue d’un affrontement entre bots anti-arnaque et bots escrocs.
Il explique que, selon leurs chercheurs, les bots IA défensifs disposent d’un avantage d’après la théorie des jeux, car ils cherchent à extraire des renseignements, tandis que les bots escrocs tentent de pousser l’autre IA à effectuer une action.

« On peut également démontrer mathématiquement que cela avantage le défenseur, car il devient plus facile d’extraire des renseignements du modèle IA de l’attaquant », explique-t-il.

« On peut imaginer un monde où les escrocs deviennent beaucoup plus sophistiqués et déploient ce type de technologie. Mais cela signifie aussi que, s’ils le font, ils sont en réalité voués à perdre la partie, ce qui est une excellente nouvelle dans la lutte contre les arnaques. »

Magazine : Un agent fait perdre 14 heures aux escrocs, des LLM « empoisonnés » par l’Iran — AI Eye