Apate.ai schickt KI-Agenten verdeckt zu Betrügern

Die meisten Unternehmen setzen KI-Agenten ein, um schneller zu arbeiten. Apate.ai setzt sie ein, damit sie sich hereinlegen lassen. Das australische Start-up betreibt Tausende Agenten, die sich als ganz normale Menschen ausgeben. Sie nehmen Betrugsanrufe entgegen, antworten auf verdächtige Nachrichten und spielen so lange mit, bis der Betrüger etwas preisgibt.

Das Unternehmen ist aus der Forschung an der Macquarie University in Sydney hervorgegangen und wurde 2024 gegründet. Diese Woche gehört es zu den Finalisten der Startup Battlefield 200 auf der TechCrunch Disrupt. Die Start-up-Konferenz läuft noch bis Donnerstag, 15. Oktober, im Moscone West in San Francisco. Dort präsentiert sich Apate vor einer Jury aus Risikokapitalgebern.

So funktionieren die Lockvögel

Apates Agenten arbeiten über mehrere Kanäle hinweg. Sie nehmen Anrufe an, beantworten E-Mails und SMS, klicken sich durch Phishing-Links und treten Gruppen in sozialen Netzwerken bei, in denen Betrüger nach Opfern suchen. Jeder Agent verkörpert eine eigene Figur mit eigenem Alter, Geschlecht, Akzent und eigener Sprache. Das Ziel: den Betrüger so lange im Gespräch zu halten, bis man etwas über ihn erfährt.

Nach Zählung des Unternehmens haben die Agenten Betrügern bislang 17 Jahre Zeit gestohlen, verteilt auf 2,5 Millionen Gespräche. Einem Kriminellen den Nachmittag zu ruinieren, ist allerdings nur ein Teil des Angebots. Was Apate tatsächlich verkauft, sind die Informationen, die bei diesen Gesprächen herauskommen: Bankverbindungen, Adressen von Krypto-Wallets, Telefonnummern, schädliche Websites, die Marken, die nachgeahmt werden, und wie eine bestimmte Betrugsmasche aufgebaut ist. Normalerweise kommen solche Details erst ans Licht, wenn ein echtes Opfer bereits Geld verloren hat.

Die Kunden - Banken, Telekommunikationsanbieter, Versorger und Behörden - nutzen die Daten, um ihre eigene Betrugsbekämpfung auszurichten. Außerdem erhalten sie Zugang zu einem Analyseportal mit Auswertungen zu Betrugsversuchen, die sich gegen ihre Kunden, Mitarbeiter, Marken und Produkte richten. Sie können den Agenten gezielte Aufträge geben, etwa eine bestimmte Kontonummer oder Wallet-Adresse herauszufinden. Textbasierte Agenten durchsuchen Foren, Investmentgruppen und soziale Plattformen nach mutmaßlichen Betrugsversuchen und mischen sich dann mit einer erfundenen Identität ins Gespräch ein.

Mitgründer und Chief Commercial Officer Brad Joffe beschreibt den Ansatz als Schritt nach vorn in der Kette. "Die meisten in der Branche handeln erst im Nachhinein. Telekommunikationsfirmen sperren Nummern, aber Betrüger besorgen sich einfach neue. Banken überwachen Transaktionen, aber dann hat der Betrüger den Kunden längst erreicht", sagte er TechCrunch. "Wir gehen direkt auf den Betrüger zu und holen uns die Informationen, bevor jemand zu Schaden kommt."

Laut Joffe laufen die Agenten auf einer Mischung aus führenden Frontier-Modellen und eigenen, feinabgestimmten Modellen von Apate. Zu den Trainingsdaten gehören frühere Gespräche des Unternehmens mit Betrügern sowie die vorangegangene Forschung an der Macquarie University.

Ein 44-minütiges Telefonat

Die Idee entstand durch einen echten Betrugsanruf. Vor einigen Jahren war Gründer und CEO Dali Kaafar bei einem Familienpicknick, als eine unbekannte Nummer anrief. Er erkannte einen Betrüger am anderen Ende, stellte sich dumm, um seine Kinder zu unterhalten, und hielt den Anrufer 44 Minuten lang hin.

Dabei fielen Kaafar zwei Dinge auf. Diese 44 Minuten hatte der Betrüger nicht mit einem echten Opfer verbracht. Es waren aber auch 44 Minuten seiner eigenen Zeit. Daraus ergab sich die Frage, ob sich diese Aufgabe automatisieren ließe und ob man dabei auch etwas Nützliches lernen könnte. An der Macquarie University wandten er und seine Kollegen anschließend maschinelles Lernen und Verarbeitung natürlicher Sprache auf die Inhalte von Betrugsanrufen an, um Erkennung und Vorbeugung zu verbessern.

Betrüger an der Nase herumzuführen, ist an sich nichts Neues. Hobby-Scambaiter halten Betrüger schon seit Jahren hin und bringen sie manchmal dazu, ganze Bücher vorzulesen oder sich sogar absurde Tattoos stechen zu lassen. Apate macht aus diesem Zeitvertreib eine Dienstleistung.

Erste Zahlen von Kunden

Zu den namentlich genannten Kunden des Start-ups gehören die Commonwealth Bank of Australia und TPG Telecom. Joffe zufolge hat TPG fast 590.000 Anrufe an Apates Agenten weitergeleitet, und die Commonwealth Bank verzeichnet einen Rückgang der öffentlich gemeldeten Betrugsschäden um 76 Prozent. Eine nicht genannte australische Bank hat mit Apates ausgehenden Agenten 22 Betrugskampagnen gestört. Diese Zahlen stammen vom Unternehmen selbst und wurden nicht unabhängig überprüft.

Hintergrund ist ein starker Anstieg KI-gestützten Betrugs. Beim FBI gingen 2025 mehr als 22.000 Beschwerden über KI-bezogene Straftaten ein, verbunden mit Verlusten von rund 893 Millionen Dollar. Mehr als 632 Millionen Dollar davon entfielen auf Anlagebetrug. Laut der Behörde nutzen Kriminelle dabei KI, um Gespräche zu führen und die Stimmen und Gesichter von Prominenten, Führungskräften und anderen Vertrauenspersonen zu fälschen.

Im August sammelte Apate in einer Seed-Runde 8,15 Millionen Dollar ein, von Lobby Capital, OIF Ventures, Investible, Concept Ventures und Baobab Ventures. Insgesamt hat das 20-köpfige Unternehmen knapp 10 Millionen Dollar eingeworben. Das neue Geld soll in die Produktentwicklung und die internationale Expansion fließen, darunter ein Büro in London und eine stärkere Präsenz in den USA.

Der Name geht auf Apate zurück, die griechische Göttin der Täuschung. Laut Joffe wertet das Team sogar Flüche als Kennzahl: Wenn Betrüger ausfällig werden, ist das ein Zeichen, dass die Bots funktionieren. "Wir sind wahrscheinlich eines der einzigen Unternehmen der Welt, das sich freut, wenn Leute unser Produkt beschimpfen", sagte er.

Unsere Einschätzung

Apate ist ein klares Beispiel dafür, wie dieselbe Technologie auf beiden Seiten eines Kampfes eingesetzt wird. Betrüger nutzen KI bereits, um Gespräche in großem Stil zu führen und Stimmen zu klonen, und jüngste Fälle wie der KI-gestützte Einbruch bei koreanischen Banken zeigen, wie weit ein einzelner Angreifer mit den richtigen Werkzeugen inzwischen kommt. Apates Antwort darauf: auch die Lockvögel zu vervielfachen, ähnlich wie andere Start-ups KI-Modelle für Verteidiger entwickeln.

Spannender als die verschwendeten Stunden sind die Daten. Wenn Agenten zuverlässig Kontonummern und Wallet-Adressen herausfinden, bevor Geld fließt, verschaffen sie Banken und Telekommunikationsanbietern einen Vorsprung, den diese heute nur selten haben. Allerdings stammen die Kundenzahlen vom Unternehmen selbst, und ein Rückgang gemeldeter Schäden kann mehrere Ursachen haben.

Es lohnt sich zu beobachten, ob Betrüger lernen, KI-Figuren zu erkennen - daraus könnte ein Wettrüsten zwischen Bots werden. Die Expansion nach Großbritannien und in die USA wird außerdem zeigen, wie gut sich das Modell über Australien hinaus übertragen lässt, wo seine ersten Partner sitzen.