Deepfakes und Desinformation: Was im Alltag wirklich hilft

Seit dem 2. August 2026 gelten in der EU neue Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Künstlich erzeugte oder manipulierte Inhalte sollen dadurch leichter erkennbar werden. Das löst aber nur einen Teil des Problems. Deepfakes können täuschen, Vertrauen untergraben und Betrug fördern. Doch woran orientiert man sich, wenn ein Video, Bild oder eine Sprachaufnahme verdächtig wirkt?

Gefälschte Bilder, Videos und Tonaufnahmen gibt es nicht erst seit generativer KI. Neu ist vor allem, wie einfach ihre Herstellung auf Knopfdruck geworden ist. Mit frei verfügbaren KI-Werkzeugen lassen sich in kurzer Zeit überzeugende Inhalte erstellen – oft ohne besondere Vorkenntnisse.

Wenn jede Aufnahme manipuliert sein könnte, geraten auch echte Inhalte schneller unter Verdacht. Fachleute sprechen von der „Lügen-Dividende“: Glaubwürdige Fälschungen machen es leichter, authentische Informationen als angebliche Deepfakes zurückzuweisen. Die Antwort kann aber nicht sein, grundsätzlich alles anzuzweifeln. Entscheidend bleibt, Informationen gezielt zu prüfen.

Viele Menschen gehen davon aus, dass sich Deepfakes an kleinen Fehlern verraten: unnatürliche Lippenbewegungen, eine merkwürdige Stimme oder seltsame Bilddetails. Das klingt plausibel und hat lange Zeit gut funktioniert. In der heutigen Praxis führt es aber oft in die Irre.

Wie unsicher viele Menschen im Umgang mit Deepfakes sind, zeigt eine repräsentative Bitkom-Befragung aus dem Frühjahr 2026: 61 Prozent geben dort an, Deepfakes bereits begegnet zu sein. Sicher sind sich dabei allerdings nur 20 Prozent. Lediglich 34 Prozent trauen sich zu, Deepfakes als solche zu erkennen.

Eine Metaanalyse von 56 Studien mit rund 86.000 Teilnehmenden kommt zu dem Ergebnis, dass Menschen manipulierte oder KI-generierte Inhalte – Videos, Bilder, Audio und Texte – im Mittel nur in etwa 55 Prozent der Fälle als Fälschung erkennen. Statistisch ist das nicht besser als Raten. Auffällig ist die Schieflage: Echtes Material ordnen die Teilnehmenden mit etwa 68 Prozent deutlich zuverlässiger richtig ein – im Zweifel halten Menschen Inhalte für authentisch.

Wer nur nach technischen Auffälligkeiten mittels KI-Detektoren sucht, konzentriert sich oft auf die falsche Frage. Solche Werkzeuge können Hinweise liefern und unterstützen, sollten aber nicht als alleiniger Beweis verstanden werden. Denn die technologische Entwicklung ist so rasant, dass sie nicht immer verlässlich sind. Umso wichtiger wird die Frage, wie sich Inhalte auch im Alltag prüfen lassen.

Ende Mai 2026 verbreiteten sich auf TikTok Videos, in denen Bundeskanzler Friedrich Merz scheinbar eine Senkung des Mindestlohns auf elf Euro ankündigte. CORRECTIV ließ die Tonspur forensisch prüfen; das Werkzeug des Fraunhofer-Instituts hält sie für möglicherweise KI-generiert. Entscheidend war hier etwas anderes: Für die Widerlegung musste niemand zuerst den Deepfake entlarven. Eine Gegenprobe genügte: Der gesetzliche Mindestlohn beträgt seit Januar 2026 13,90 Euro und soll Anfang 2027 auf 14,60 Euro steigen. Ein Blick auf die offiziellen Informationen widerlegt die Behauptung. Der Fall zeigt exemplarisch: Nicht jede Manipulation muss immer nur technisch nachgewiesen werden. Häufig reicht es, die zugrunde liegende Aussage und die verfügbaren Informationen selbst zu überprüfen.

Generative KI kann inzwischen auch Stimmen von Angehörigen, Kolleg:innen oder Vorgesetzten erstaunlich überzeugend nachahmen. Die polizeiliche Kriminalprävention warnt vor Betrugsversuchen mit künstlichen Stimmen und emotionalem Druck.

Die wichtigste Regel ist zugleich die einfachste: Gespräch beenden und selbst zurückrufen. Geld sollte nicht überwiesen und vertrauliche Daten sollten nicht herausgegeben werden, nur weil eine Stimme vertraut klingt. Ein vereinbartes Codewort kann zusätzliche Sicherheit bieten.

Der EU AI Act verpflichtet Anbieter bestimmter generativer KI-Systeme seit dem 2. August 2026 dazu, künstlich erzeugte oder manipulierte Inhalte maschinenlesbar zu kennzeichnen. Zudem müssen Betreiber von KI-Systemen, die Deepfakes erzeugen oder manipulieren, grundsätzlich offenlegen, dass die Inhalte künstlich erzeugt oder verändert wurden. Für die Nutzenden werden diese Kennzeichnungen häufig nicht direkt sichtbar sein. Sie dienen vor allem dazu, Plattformen, Prüfdiensten oder anderen technischen Systemen die Erkennung zu erleichtern.

Kennzeichnungen können jedoch fehlen, entfernt oder schlicht übersehen werden. Zudem ist nicht jede Desinformation ein Deepfake. Oft reichen in der Praxis echte Bilder im falschen Kontext, verkürzte Ausschnitte oder erfundene Behauptungen, um Menschen in die Irre zu führen.

Mit der Verbreitung generativer KI wird Medienkompetenz zunehmend zu einer demokratischen Schlüsselkompetenz. Wer Informationen prüfen kann, stärkt nicht nur die eigene Urteilsfähigkeit, sondern auch die Qualität öffentlicher Debatten. Nutzende können nicht jede algorithmische Manipulation selbst erkennen. Deshalb darf die Verantwortung nicht allein bei ihnen liegen. Auch Plattformen, KI-Anbieter, Politik, Journalismus und Bildungseinrichtungen müssen dazu beitragen, verlässliche Informationen sichtbar zu machen und Manipulationen zu erschweren. 

Oft lautet die Frage: „Ist das ein Deepfake?“. Für die Einordnung ist jedoch häufig etwas anderes entscheidend: Lässt sich die Aussage unabhängig belegen? Bilder, Videos und Stimmen lassen sich immer schwerer anhand ihrer wahrnehmbaren Merkmale beurteilen. Technische Hilfsmittel können unterstützen. Sie ersetzen aber nicht die Prüfung von Quellen, Kontext und den zugrunde liegenden Aussagen. Die neuen EU-Regeln schaffen mehr Transparenz und können die Erkennung unterstützen. Gleichzeitig stoßen sie an Grenzen, wenn Kennzeichnungen fehlen oder Inhalte aus ihrem ursprünglichen Kontext gerissen werden. Eine einfache Routine hilft trotzdem dabei, Medienkompetenz im Alltag zu stärken: Innehalten, Quellen prüfen, Informationen einordnen. Häufig reicht eine Gegenprobe aus. Wo das nicht möglich ist, gewinnen Quellen und unabhängige Belege an Bedeutung. Denn wer Informationen überprüft, muss nicht jede Manipulation zweifelsfrei nachweisen, um auf sie nicht hereinzufallen.