Apate.ai envoie des agents IA infiltrés se faire arnaquer

La plupart des entreprises déploient des agents IA pour travailler plus vite. Apate.ai, elle, les déploie pour se faire avoir. La start-up australienne fait tourner des milliers d'agents qui se font passer pour des gens ordinaires, décrochent les appels frauduleux, répondent aux messages suspects et jouent le jeu jusqu'à ce que l'escroc se trahisse.

Issue de travaux de recherche menés à l'université Macquarie de Sydney, l'entreprise a été fondée en 2024. Cette semaine, elle figure parmi les finalistes du Startup Battlefield 200 de TechCrunch Disrupt, la conférence consacrée aux start-up qui se tient au Moscone West de San Francisco jusqu'au jeudi 15 octobre. Elle y présentera son projet devant un jury d'investisseurs en capital-risque.

Comment fonctionnent les leurres

Les agents d'Apate opèrent sur plusieurs canaux. Ils répondent aux appels téléphoniques, aux e-mails et aux SMS, cliquent sur les liens d'hameçonnage et rejoignent les groupes sur les réseaux sociaux où les escrocs cherchent leurs cibles. Chacun incarne un personnage différent, avec son âge, son genre, son accent et sa langue. L'objectif : faire parler l'escroc assez longtemps pour en apprendre quelque chose.

Selon les chiffres de l'entreprise, ses agents ont jusqu'ici fait perdre 17 ans aux escrocs, au fil de 2,5 millions de conversations. Gâcher l'après-midi d'un criminel n'est toutefois qu'une partie de l'argument. Ce qu'Apate vend, ce sont les informations qui ressortent de ces échanges : coordonnées bancaires, adresses de portefeuilles crypto, numéros de téléphone, sites malveillants, marques usurpées et mode opératoire d'une arnaque donnée. D'ordinaire, ce type de détails n'apparaît qu'une fois qu'une vraie victime a perdu de l'argent.

Les clients - banques, opérateurs télécoms, fournisseurs d'énergie et administrations - s'appuient sur ces données pour orienter leur propre lutte contre la fraude. Ils ont aussi accès à un portail d'analyse qui recense les arnaques visant leurs clients, leurs employés, leurs marques et leurs produits. Ils peuvent confier aux agents des missions précises, comme obtenir un numéro de compte bancaire ou une adresse de portefeuille en particulier. Les agents textuels peuvent fouiller les forums, les groupes d'investissement et les réseaux sociaux à la recherche d'arnaques présumées, puis se joindre à la conversation sous une fausse identité.

Le cofondateur et directeur commercial Brad Joffe résume l'approche comme une intervention plus en amont de la chaîne. "La plupart des acteurs du secteur agissent après coup. Les opérateurs bloquent des numéros, mais les escrocs en obtiennent simplement de nouveaux. Les banques surveillent les transactions, mais à ce stade, l'escroc a déjà atteint le client", a-t-il expliqué à TechCrunch. "Nous allons directement au contact de l'escroc et récupérons les informations avant que quiconque ne soit lésé."

D'après Brad Joffe, les agents s'appuient sur un mélange de modèles de pointe et de modèles affinés par Apate. Les données d'entraînement comprennent les conversations passées de l'entreprise avec des escrocs ainsi que les travaux antérieurs menés à Macquarie.

Un appel de 44 minutes

L'idée est née d'un véritable appel frauduleux. Il y a quelques années, le fondateur et PDG Dali Kaafar participait à un pique-nique familial lorsqu'un numéro inconnu a sonné. Il a reconnu un escroc au bout du fil, a fait l'idiot pour amuser ses enfants et a occupé son interlocuteur pendant 44 minutes.

Dali Kaafar a alors remarqué deux choses. Ces 44 minutes, l'escroc ne les avait pas passées avec une vraie victime. Mais c'étaient aussi 44 minutes de son propre temps. D'où la question : pouvait-on automatiser la tâche, et en tirer au passage des enseignements utiles ? À Macquarie, ses collègues et lui ont ensuite appliqué l'apprentissage automatique et le traitement du langage naturel au contenu des appels frauduleux, dans le but d'améliorer la détection et la prévention.

Piéger les arnaqueurs n'a rien de nouveau en soi. Des amateurs passent depuis des années à mener des escrocs en bateau, au point parfois de leur faire lire des livres entiers à voix haute, voire se faire tatouer des motifs absurdes. Apate transforme ce passe-temps en service.

Premiers chiffres côté clients

Parmi les clients cités par la start-up figurent Commonwealth Bank of Australia et TPG Telecom. Selon Brad Joffe, TPG a redirigé près de 590 000 appels vers les agents d'Apate, et Commonwealth Bank a enregistré une baisse de 76 % des pertes liées aux arnaques déclarées publiquement. Une banque australienne non nommée a utilisé les agents sortants d'Apate pour perturber 22 campagnes frauduleuses. Ces chiffres proviennent de l'entreprise et n'ont pas été vérifiés de manière indépendante.

Tout cela s'inscrit dans un contexte de forte hausse de la fraude assistée par l'IA. Le FBI a reçu plus de 22 000 plaintes pour des délits liés à l'IA en 2025, pour environ 893 millions de dollars de pertes. Plus de 632 millions de dollars de ce total proviennent d'arnaques à l'investissement, dans lesquelles, selon le bureau, les criminels utilisent l'IA pour mener les conversations et imiter la voix et le visage de célébrités, de dirigeants et d'autres personnalités de confiance.

En août, Apate a levé 8,15 millions de dollars en amorçage auprès de Lobby Capital, OIF Ventures, Investible, Concept Ventures et Baobab Ventures. L'entreprise de 20 personnes a levé au total un peu moins de 10 millions de dollars. Elle compte consacrer ces nouveaux fonds au développement produit et à son expansion internationale, avec notamment l'ouverture d'un bureau à Londres et un renforcement de sa présence aux États-Unis.

Le nom vient d'Apate, la déesse grecque de la tromperie. Selon Brad Joffe, l'équipe considère même les insultes comme un indicateur : un escroc qui devient injurieux, c'est le signe que les bots font leur travail. "Nous sommes probablement l'une des seules entreprises au monde à se réjouir quand les gens insultent notre produit", a-t-il déclaré.

Notre analyse

Apate illustre parfaitement une même technologie utilisée par les deux camps. Les fraudeurs se servent déjà de l'IA pour démultiplier les conversations et cloner des voix, et des affaires récentes comme l'intrusion assistée par IA dans des banques coréennes montrent jusqu'où un seul attaquant peut désormais aller avec les bons outils. La réponse d'Apate consiste à démultiplier, elle aussi, les leurres, à l'image d'autres start-up qui développent des modèles d'IA destinés aux défenseurs.

Le plus intéressant, ce sont les données, pas les heures perdues. Si les agents parviennent de manière fiable à récupérer des numéros de compte et des adresses de portefeuilles avant que l'argent ne circule, banques et opérateurs disposent d'une longueur d'avance qu'ils ont rarement aujourd'hui. Reste que les chiffres clients sont ceux de l'entreprise, et qu'une baisse des pertes déclarées peut avoir plusieurs causes.

Il faudra surveiller si les escrocs apprennent à repérer les personnages générés par IA, ce qui pourrait transformer le tout en course aux armements entre bots. L'expansion au Royaume-Uni et aux États-Unis permettra aussi de vérifier si le modèle s'exporte bien au-delà de l'Australie, où sont basés ses premiers partenaires.