KI-Dialogsysteme für Betrugsanalyse und Studium

An der Macquarie University entstanden zwei in den Quellen beschriebene KI-Anwendungsfelder: die Analyse von Betrugsmaschen mit daraus trainierten Dialogsystemen sowie ein KI-Dialogsystem für Studierende. Der Betrugsforschungsansatz geht auf einen Betrugsanruf im November 2021 zurück, den der Cybersicherheitsprofessor Dali Kaafar 44 Minuten lang führte. Daraus entwickelte sich ein Forschungsprojekt der Universität.

Das Forschungsprojekt sammelte große Mengen realer Betrugsanrufe, Phishing-E-Mails und Chat-Protokolle aus sozialen Plattformen. Es analysierte die darin enthaltenen Social-Engineering-Muster und trainierte Dialogsysteme, die über längere Zeit glaubwürdige Rollen aufrechterhalten. Das Projekt wurde 2024 als Apate ausgegründet.

Nach den vorliegenden Quellen beantworten die KI-Systeme Betrugsanrufe, reagieren auf Phishing-SMS und führen Textchats. Dabei sollen sie Informationen wie Kontodaten für Zahlungseingänge, Krypto-Wallet-Adressen, Links zu Fernzugriffssoftware und Phishing-Domains erfassen. Die Informationen werden strukturiert und über die Plattform Apate Insights in Echtzeit an Banken, Telekommunikationsanbieter und staatliche Regulierungsstellen übermittelt.

Daneben setzt die Universität den KI-Chatbot Virtual Peer ein. Das System wurde gemeinsam mit Microsoft entwickelt und 2024 erstmals mit Studierenden erprobt. Lehrende können Lernmaterialien hochladen, auf die Virtual Peer in seinen Antworten Bezug nimmt. Das System beantwortet akademische und administrative Fragen; in einigen Lehrveranstaltungen unterstützt es interaktive Übungen. Die Universität bezeichnet es als optionales ergänzendes Werkzeug, nicht als Ersatz für Lehre.

Für die Betrugsanalyse nutzte das Forschungsprojekt maschinelles Lernen und Verfahren zur Verarbeitung natürlicher Sprache. Diese dienten dazu, die Vorgehensweisen von Betrügern aus den gesammelten Kommunikationsdaten zu untersuchen und Dialogsysteme zu trainieren.

Virtual Peer basiert nach Angaben der Universität auf von Lehrenden bereitgestellten und überprüften Materialien. Dadurch sollen Antworten stärker auf das jeweilige Fach bezogen sein und das Risiko erfundener oder falscher Antworten verringert werden. Lehrende können anonymisierte Chat-Protokolle einsehen, um ihre Arbeit zu verbessern.

Für das aus dem Forschungsprojekt hervorgegangene Unternehmen Apate werden mit Stand August 2026 197.000 virtuelle Personas genannt. Bis Oktober 2026 führten eingesetzte KI-Personas weltweit mehr als 2,5 Millionen Gespräche mit Betrügern; dies entsprach laut Quelle etwa 17 Jahren gebundener Betrugszeit.

Virtual Peer beantwortete 2025 fast 80.000 Fragen von Studierenden. In der ersten Hälfte des Jahres 2026 lag die Zahl nach Angaben der Universität nahezu auf demselben Niveau. Die Universität erklärte zudem, dass sich die Noten von Studierenden verbesserten, die das System erprobten; eine quantitative Angabe dazu liegt in den Auszügen nicht vor.

Die Quellen dokumentieren an der Macquarie University sowohl Forschung zur automatisierten Erhebung von Informationen aus Betrugsdialogen als auch den Einsatz eines ergänzenden Studien-Chatbots. Für Virtual Peer betont die Universität, dass die Kerninhalte weiterhin über Lehrmaterialien und Online-Module vermittelt werden und akademisches Personal sowie Tutorinnen und Tutoren unterstützen. Die Nutzung des Chatbots ist nicht in allen Lehrveranstaltungen verfügbar.