Wie eine Wormser Firma gegen Betrug mit KI-Stimmen vorgeht

Worms. Es hat wohl jeder schon mal eine SMS mit dem oder ähnlichen Inhalt bekommen: „Hallo Papa, ich habe eine neue Nummer. Kannst du die bitte einspeichern?“ Die Scam-Nachricht zielt darauf ab, Geld von den Opfern zu bekommen. Immer wieder fallen vor allem ältere Menschen auf diese kriminellen Versuche hinein. 6.656 Fälle des sogenannten „Enkeltricks“ und der Schockanrufe zählte das die polizeiliche Kriminalstatistik im Jahr 2024. Davon wurden nur 1.527 Fälle aufgeklärt – also ungefähr 23 Prozent. Die Straftaten werden nach Angaben des Bundeskriminalamts oft aus dem Ausland begangen.

Betrug mit der Stimme: KI kann Personen „klonen“

Doch eine Masche, die wohl viele noch nicht kennen, ist Betrug mit der Stimme von Bekannten. Kriminelle können durch Künstliche Intelligenz die Stimme gewählter Personen „klonen“ – vorausgesetzt, sie haben diese zuvor irgendwo gefunden, um die KI damit zu trainieren. Stimmen sind in vielen Fällen leicht zu finden, zum Beispiel über soziale Medien wie TikTok, Instagram, YouTube oder Facebook.

Das menschliche Gehör kann nicht unterscheiden, ob die Stimme echt ist, oder eben nicht. Eine unheimliche Vorstellung. Und genau hier setzt eine Forschungsgruppe der Technischen Universität Darmstadt an. Unter der Leitung von Ahmad-Reza Sadeghi entwickelt die Gruppe den sogenannten VoiceRadar. Das ist ein Programm, das erkennen soll, ob eine Stimme menschlich oder synthetisch – eben von einer Künstlichen Intelligenz – erzeugt wurde. Dabei machen sie sich genau das zu Nutzen, was die Betrugsmasche erst möglich macht – nämlich die Künstliche Intelligenz.

Technische Universität Darmstadt arbeitet mit Wormser Firma Kobil zusammen

„Das KI-Modell von VoiceRadar wurde mit vielen öffentlich verfügbaren Datensätzen trainiert“, erklärt Sadeghi. „Es wurden dabei Stimmen von echten Menschen, den synthetisch erstellten gegenüber gestellt. Nach einer Trainingsperiode sollte die KI dann erkennen, ob eine Stimmaufnahme digital erstellt oder eben doch menschlich gewesen ist.“ Die Hypothese, die dem Training zu Grunde lag, sei folgende gewesen: „Die Stimme von Menschen ist von einer menschlichen Dynamik beeinflusst“, so Sadeghi. Auf die menschliche Stimme wirken Emotionen, Tonhöhe, Betonung, Sprechfluss und die Position des Kopfes beim Sprechen ein. Synthetische Stimmen klängen dagegen gleichförmiger und „zu perfekt“. Um diese feinen Unterschiede besser zu erfassen, habe die Gruppe dann verschiedene physikalische Modelle genutzt, die als zusätzliche Informationsquelle für das Training des KI-Modells dienten.

Und für die Technologie hat Sadeghie auch schon einen Abnehmer gefunden: das Technologieunternehmen Kobil aus Worms. Die Firma setzt den Fokus auf die Digitalisierung von Städten. Das Thema ist ein Herzensprojekt für den Gründer und Geschäftsführer Ismet Koyun. Das Schlüsselprodukt ist deshalb die SuperApp „myCity“, die in Worms schon seit 2024 verwendet wird. Eine SuperApp sei eine Plattform, erklärt Koyun. Dort können die Bewohner der Stadt unter anderem ihre digitale Identität, eine digitale Geldbörse und digitale Verträge für kommunale Dienste verwalten. Auch Firmen können ihre eigenen Anwendungen einspeisen. Die SuperApp besitze höchste Sicherheitsstandards, erklärt Koyun. Perspektivisch soll auch über die SuperApp Sprachkommunikation stattfinden. In diesem Kontext soll dann VoiceRadar helfen, verdächtige oder synthetisch generierte Stimmen frühzeitig zu erkennen und Nutzer vor Manipulation zu schützen.

SuperApp wird in Worms schon verwendet

Nach Koyuns Ansicht geht die Digitalisierung in Deutschland schleppend voran, in den Behörden fehle das Wissen. Mit seiner Technologie soll jede Stadt innerhalb von nur einer Woche eine eigene App entwickeln können. „Wir wollen die Menschen regional zusammenbringen“, bekräfigt Koyun.

Themen der Woche

Welche Themen haben Mannheim diese Woche bewegt? Die 7 wichtigsten Nachrichten der letzten 7 Tage in unserem Wochenupdate inkl. Veranstaltungstipps – jeden Samstagvormittag.

Abonnieren Vorschau

Und obwohl digitale Angebote gerade für ältere Menschen oft eine Herausforderung darstellen, sehen sowohl Sadeghi als auch Koyun Chancen in der SuperApp und ihrer KI-Unterstützung. Viele ältere Menschen seien verunsichert im Umgang mit digitalen Angeboten, eben weil es so viele Scams und Betrügereien gebe, so Koyun und Sadeghi. Deshalb sei eine einfache Bedienung der Systeme äußerst wichtig, sodass sich ältere Menschen sicher in ihnen bewegen können.