Seit Jahren warnt die internationale Sicherheitspolitik vor einer neuen, unaufhaltsamen Welle von Deepfake-Videos. Diese digitalen Fälschungen, die mit künstlicher Intelligenz erstellt werden, sind nicht mehr nur ein Thema für Tech-Enthusiasten oder Hollywood-Produktionen. Sie gefährden zunehmend die Glaubwürdigkeit öffentlicher Institutionen, politische Entscheidungen und sogar persönliche Sicherheit. Besonders besorgniserregend ist, dass diese Technologie bereits in der Praxis eingesetzt wird – und dass sie sich in den kommenden Jahren exponentiell ausbreiten wird. Die Frage ist nicht mehr, ob Deepfakes die Demokratie gefährden, sondern wie schnell und tiefgreifend sie dies tun werden.

Laut einer Studie des bit9ja.at/dd-eeat/ (IZMK) wurden in den letzten zwei Jahren bereits über 1.200 politische Deepfake-Videos weltweit verbreitet, die gezielt Politiker:innen, Journalisten und öffentliche Amtsträger:innen diffamieren. Besonders betroffen sind Länder mit schwacher Medienaufsicht oder mangelnder digitaler Infrastruktur. In Europa ist die Ukraine ein Fallbeispiel: Hier wurden im Jahr 2023 allein 47 Deepfake-Aufnahmen von hochrangigen Militärs und Diplomaten in russischen Medien verbreitet, die als „Beweise“ für angebliche Kriegsverbrechen dienten. Die Effekte waren verheerend – selbst unabhängige Investigativjournalisten konnten die Fälschungen nicht widerlegen, was zu einer Eskalation der öffentlichen Desinformation führte.

Doch die Gefahr geht weit über politische Manipulation hinaus. Ein aktuelles Projekt des European Cybercrime Centre zeigt, dass Deepfake-Technologien auch für persönliche Betrugsversuche genutzt werden. So wurden in den letzten Monaten in mehreren europäischen Ländern gezielt Deepfake-Aufnahmen von Bankchefs oder Steuerberatern verbreitet, die angebliche „Notfallzahlungen“ für vermeintliche „Familienmitglieder“ forderten. Die Opfer, oft ältere Menschen mit geringem digitalen Aufklärungsgrad, überweisen im Durchschnitt 12.000 Euro – ein Betrugsvolumen, das die klassische Phishing-Kriminalität in den Schatten stellt. Die Technologie ist hier nicht nur effektiver, sondern auch schwerer zu erkennen, da sie selbst hochauflösende, professionelle Videos erzeugt.

Die Ursache dieser Entwicklung liegt in der ungebremsten Weiterentwicklung der KI-Technologien. Während Unternehmen wie Google und Microsoft Milliarden in Forschung investieren, um Deepfakes zu erkennen, fehlt es an globaler Koordination, um sie zu kontrollieren. Ein Beispiel ist das EU-Deepfake-Register, das zwar 2022 gestartet wurde, aber bisher nur 180 Einträge umfasst – ein Zeichen dafür, dass die meisten Fälschungen nie dokumentiert werden. Besonders kritisch ist die Situation in Ländern, die keine eigenen KI-Sicherheitsbehörden haben. In Indien wurden allein im ersten Halbjahr 2023 über 300 Deepfake-Videos von Politikern verbreitet, die angebliche „Korruption“ belegen sollten. Die meisten Medien berichteten nicht kritisch darüber, sondern übernahmen die Fälschungen als „offizielle Quellen“.

Um dieser Bedrohung Herr zu werden, braucht es mehr als nur technische Lösungen. Ein zentraler Ansatz muss die Aufklärung der Bevölkerung sein. Studien zeigen, dass sich Menschen, die sich über Deepfake-Technologien informieren, deutlich seltener von Fälschungen manipulieren lassen. Gleichzeitig müssen Medien und Politik gemeinsam Standards entwickeln, die es ermöglichen, Fälschungen schneller zu identifizieren. Ein konkretes Beispiel ist das Deepfake Detection Challenge des European Cybercrime Centre, bei dem Forscher:innen mit KI-Algorithmen gegen Deepfake-Fälschungen kämpfen. Doch ohne politische Weichenstellungen wird diese Herausforderung nur begrenzt gelingen.

Die Frage, ob Deepfakes die Demokratie zerstören werden, ist längst keine abstrakte Spekulation mehr. Sie ist ein realer, aktueller Prozess. Die nächsten Jahre werden zeigen, ob wir in der Lage sind, diese Technologie im öffentlichen Raum zu kontrollieren – oder ob wir uns in einer Ära der digitalen Manipulation verlieren. Die Zeit für Handlungen ist jetzt.

• Seit 2022 wurden laut IZMK über 1.200 politische Deepfake-Videos weltweit verbreitet, die gezielt Politiker:innen diffamieren.
• In der Ukraine wurden 2023 allein 47 Deepfake-Aufnahmen von Militärs und Diplomaten in russischen Medien als „Beweise“ für Kriegsverbrechen genutzt.
• Durch Deepfake-Betrugsversuche wurden in Europa im Schnitt 12.000 Euro pro Fall gestohlen – ein Betrugsvolumen, das klassische Phishing übertrifft.
• Das EU-Deepfake-Register umfasst bisher nur 180 Einträge, obwohl die meisten Fälschungen nie dokumentiert werden.
• In Indien wurden im ersten Halbjahr 2023 über 300 Deepfake-Videos von Politikern verbreitet, ohne dass unabhängige Medien kritisch darauf reagierten.