Achtung Deepfake! Eine Frau aus dem sächsischen Lichtenberg verlor in drei Monaten mehr als eine Million Euro. Der Auslöser: ein täuschend echtes KI-Video, das eine Folge der ZDF-Talkshow Markus Lanz imitierte. Der Link führte direkt in die Falle. Welche Gefahren lauern in Zukunft durch Künstliche Intelligenz? COMPACT-Spezial «Transhumanismus» liefert die Grundlageninformationen. Hier mehr erfahren.
Im Internet hatte sie das Video gesehen: Eine Finanzexpertin saß in der vertrauten Runde von Markus Lanz und empfahl ein lukratives Investment in Gold, Öl und Kryptowährungen. Der Rahmen wirkte seriös, die Expertin überzeugend. Doch es war alles erfunden. Im eingeblendeten Link zur Plattform «Investhub 3.0» lauerte der Betrug. Die Sächsin meldete sich an. Unmittelbar danach rief zunächst eine Frau an, dann ein angeblicher Broker. Polizeisprecher von Chemnitz Andrzej Rydzik erklärt:
COMPACT bleibt für Dich frei zugänglich. Damit das möglich ist, sind wir auch auf Werbeeinnahmen und direkte Unterstützung angewiesen.
Bitte deaktiviere Deinen Adblocker für compact-online.de oder unterstütze unsere Arbeit direkt.
COMPACT unterstützen«Durch den persönlichen Austausch gelang es den Betrügern, die Frau über Monate hinweg bei der Stange zu halten.»
Die Überweisungen stiegen von knapp 10.000 Euro bis hin zu mehr als 460.000 Euro auf verschiedene Konten. Misstrauisch wurde sie erst, als die Anrufe des angeblichen Brokers plötzlich ausblieben. Vergangenen Samstag erstattete sie Anzeige bei der Kriminalpolizei in Chemnitz. Wie Künstliche Intelligenz eigentlich entstanden ist und was sie heute kann, lesen Sie in unserem Artikel «Wie die KI laufen lernte — Kleine Geschichte der Rechner und Roboter» in unserem Spezial «Transhumanismus».
Kein Einzelfall
Immer wieder missbrauchen Kriminelle das Vertrauen in bekannte Gesichter und seriöse TV-Formate. Zuletzt wurde die Identität des «Schraubenkönigs» Reinhold Würth für ähnliche Betrugsmaschen genutzt. Die Plattform «Investhub 3.0», über die sich das Opfer nach der gefälschten Lanz-Show angemeldet hatte, war am darauffolgenden Montag noch immer erreichbar. Ob sie zum Betrügernetzwerk gehört oder selbst missbraucht wurde, ist laut Polizei noch unklar. Polizeisprecher Rydzik:
«Die Ermittlungen stehen noch ganz am Anfang. Wir prüfen, ob es weitere Opfer des Deepfake-Videos gibt.»
Die Vereinten Nationen warnten zuletzt vor einer weltweiten Zunahme von KI-gestütztem Betrug. Deutschland hat noch kein wirksames Instrument dagegen. Ein Deepfake ist ein mit Künstlicher Intelligenz generiertes Video, das reale Personen in erfundenen Situationen zeigt. Die Technologie analysiert dabei tausende echte Aufnahmen einer Person und rekonstruiert daraus täuschend echte Bewegungen, Mimik und Stimme. Was früher nur mit riesigem technischen Aufwand möglich war, ist heute mit frei verfügbarer Software in wenigen Stunden machbar. «Deepfakes werden immer besser und sind mittlerweile qualitativ kaum noch von echten Videos zu unterscheiden», warnt die Verbraucherzentrale.
Woran man sie dennoch erkennen kann: unnatürliche Mimik oder Lippenbewegungen, eine leicht veränderte Stimme, fehlende Links zu offiziellen Kanälen und dubiose Internetseiten ohne Impressum.
Wichtige Grundlageninformationen: In COMPACT-Spezial «Transhumanismus – Künstliche Intelligenz und das Ende der Menschheit» erläutern wir die Gefahren des digitalen Zeitalters. Hier bestellen.
