Wie erkennt man, ob ein Bild oder Video KI-generiert ist? Merkmale, Werkzeuge und Grenzen

Wie erkennt man, ob ein Bild KI-generiert ist?

Ehrlich gesagt lässt sich das allein durch Hinsehen oft nicht feststellen. In einem Online-Quiz des AI for Good Lab von Microsoft gaben die Teilnehmenden etwa 287.000 Urteile ab und erkannten echte und KI-generierte Bilder nur in 62% der Fälle richtig ^[1]. Eine repräsentative Studie mit 3.002 Personen in den USA, Deutschland und China, vorgestellt 2024 auf dem IEEE Symposium on Security and Privacy, kam zu dem Ergebnis, dass Fälschungen auf dem neuesten Stand der Technik von echten Medien kaum zu unterscheiden waren und die meisten Teilnehmenden schlicht rieten ^[2].

Das macht eine Prüfung nicht sinnlos. Es bedeutet, dass der verlässliche Ansatz mehrschichtig ist: nach visuellen Fehlern suchen, maschinenlesbare Signale wie Wasserzeichen oder Content Credentials prüfen und das Bild bis zu seinem ersten Auftauchen zurückverfolgen. Das US-amerikanische National Institute of Standards and Technology (NIST) beschreibt denselben Gedanken in größerem Maßstab: Es gebe keine Patentlösung, und Herkunftsnachweis, Kennzeichnung und Erkennung hätten jeweils ihre Grenzen ^[4].

Eine kurze Checkliste

1. Halten Sie vor dem Teilen inne. Aufnahmen zu aktuellen Ereignissen verdienen besondere Sorgfalt; im Juni 2025 tauchte ein Clip einer Explosion im Teheraner Evin-Gefängnis, der laut Fachleuten gegenüber CBS News möglicherweise mit KI erstellt wurde, nur Minuten nach einem echten israelischen Angriff auf das Gefängnis im Netz auf ^[12].
2. Sehen Sie genau hin: auf Hände, Schrift, Schatten, Spiegelungen und Gegenstände, die physikalisch funktionieren müssten ^[3].
3. Prüfen Sie auf Credentials oder Wasserzeichen mit einem Werkzeug, das sie auslesen kann, etwa für den Standard Content Credentials oder mit dem SynthID-Prüfer von Google in Gemini ^[5][7].
4. Suchen Sie die Quelle. Die Hilfeseite von Google selbst empfiehlt neben dem eigenen Wasserzeichen-Werkzeug eine visuelle Prüfung und die umgekehrte Bildersuche ^[5].
5. Werten Sie jedes Ergebnis als Indiz, nicht als Beweis, denn jede Methode kann Inhalte übersehen oder falsch deuten ^[4].

Welche visuellen Merkmale verraten KI-Bilder?

Forschende der Northwestern University erstellten einen Leitfaden anhand von 138 mit Diffusionsmodellen erzeugten Bildern, 9 aus sozialen Medien zusammengetragenen Bildern und 42 echten Fotos ^[3]. Sie ordneten die verräterischen Probleme fünf Kategorien zu ^[3]:

• Anatomisch: unplausible Hände, Augen, Zähne und Körper, einschließlich Körpern, die ineinander übergehen ^[3].
• Stilistisch: Bilder, die etwas zu perfekt wirken, mit glänzender oder wächserner Haut, einer Optik wie aus einem Magazin oder Filmstandbild oder Bildbereichen mit abweichendem Detailgrad oder abweichender Farbe ^[3].
• Funktional: Gegenstände, die nicht funktionieren könnten, untypische Bauformen und unverständliche Schrift oder Logos, weil Generatoren kein strukturelles Verständnis davon haben, wie Dinge funktionieren ^[3].
• Verstöße gegen die Physik: uneinheitliche Schatten, Spiegelungen sowie Probleme mit Tiefe und Perspektive ^[3].
• Soziokulturell: Szenarien, die unwahrscheinlich oder unpassend sind, gegen die Normen einer Kultur verstoßen oder historisch nicht stimmen ^[3].

Die Autoren betonen, dass für Menschen wahrnehmbare Artefakte zwar häufig, aber nicht immer vorhanden sind und dass anatomische Auffälligkeiten wie eine merkwürdig aussehende Hand nicht zwingend bedeuten, dass ein Bild KI-generiert ist ^[3]. Zudem werden Generatoren schnell besser: Die Microsoft-Forschenden merken an, dass ihre Ergebnisse vermutlich überschätzen, wie gut Menschen aktuelle KI-Bilder erkennen können ^[1].

Welche Fälschungen sind am schwersten zu erkennen?

Im Microsoft-Experiment täuschten zwei Arten von Bildern die Menschen häufiger, als dass sie erkannt wurden: mit GANs (einem älteren Typ von Bildgeneratoren) erzeugte menschliche Gesichter und Inpainting, bei dem ein Teil eines echten Fotos durch generierte Inhalte ersetzt wird ^[1]. Das NIST betont denselben Punkt: Ein teilweise bearbeitetes Bild ist überwiegend echt, was jede Erkennungsmethode erschwert ^[4]. Ein echtes Foto mit einem einzigen veränderten Detail ist daher schwerer zu entlarven als eine vollständig synthetische Szene.

Und bei Videos?

Videos sind noch schwieriger. Hany Farid, Professor an der University of California, Berkeley, sagte CBS News im Juni 2025, Fälschungen seien von Standbildern zu vollständigen Videos mit Explosionen übergegangen, die wie wackelige Handyaufnahmen aussehen ^[12]. Bei einem Clip einer Explosion am Eingang des Teheraner Evin-Gefängnisses, der laut Fachleuten möglicherweise KI-generiert war, verwiesen diese auf ein falsches Schild über der Tür und Unstimmigkeiten in der Explosion selbst ^[12]. Prüfenswert sind unter anderem Schilder und andere Schrift, die Beleuchtung und die Frage, ob dieselbe Szene auch in Aufnahmen anderer Kameras zu sehen ist.

Beweisen KI-Wasserzeichen und Content Credentials, woher ein Bild stammt?

Maschinenlesbare Signale sind aussagekräftiger als das bloße Auge, aber nur, wenn sie vorhanden sind und das richtige Werkzeug sie lesen kann. Es gibt zwei Hauptarten.

Unsichtbare Wasserzeichen

Ein Wasserzeichen ist ein in den Pixeln oder im Ton verborgenes Signal. SynthID von Google bettet nicht wahrnehmbare Signale in KI-generierte Inhalte ein, und laut Google waren bis November 2025 über 20 Milliarden Inhalte damit versehen worden ^[6]. Seit dem 20. November 2025 kann man ein Bild in die Gemini-App hochladen und fragen, ob es mit Google-KI erstellt wurde ^[6]. Die Hilfeseite von Google ergänzt Prüfungen für Video und Audio, mit Grenzen von 100 MB pro Datei, Videos unter 90 Sekunden und etwa 10 Prüfungen je Art pro 24 Stunden ^[5].

Die Grenzen sind wichtig. Gemini erkennt derzeit nur Inhalte, die mit KI-Werkzeugen von Google erstellt wurden, und Google stellt klar, dass ein fehlendes SynthID-Wasserzeichen nicht bedeutet, dass der Inhalt nicht KI-generiert ist ^[5]. Laut Google überstehen Wasserzeichen in der Regel Größenänderungen, Umfärbungen und Komprimierung, werden nach vielen Veränderungen aber möglicherweise nicht mehr erkannt ^[5].

Content Credentials

Content Credentials, der von der Coalition for Content Provenance and Authenticity (C2PA) entwickelte Standard, sind eine kryptografisch gesicherte Möglichkeit festzuhalten, wie, wann und wo Inhalte erstellt und wie sie verändert wurden ^[7]. Wird die Datei oder werden ihre Herkunftsdaten verändert, bricht die kryptografische Verknüpfung, was auf Manipulation hinweist ^[7]. Gemini kann Content Credentials ab Version 2.2 von Produkten auf der C2PA Conforming Products List lesen, im Web und in der Android-App ^[5].

Credentials dokumentieren allerdings eine Angabe zur Herkunft, nicht die Wahrheit einer Szene. Google weist darauf hin, dass ein Ergebnis, das ein Unternehmen nennt, nur zeigt, wer die Information bereitgestellt hat, und dass Credentials nicht endgültig beweisen, ob Inhalte KI-generiert sind ^[5]. Laut C2PA können Credentials von einer Datei getrennt werden; der Standard unterstützt daher „Soft Bindings“ wie Wasserzeichen oder Fingerabdrücke, um sie wiederzufinden ^[7].

Warum verschwinden Kennzeichnungen und Metadaten so oft?

Metadaten reisen innerhalb der Datei mit; alles, was die Datei neu speichert, kann sie daher entfernen. Das NIST weist darauf hin, dass eingebettete Metadaten beim Teilen von Dateien, etwa über soziale Medien, häufig verloren gehen und dass Menschen sie sowohl zur Täuschung als auch aus harmlosen Gründen wie dem Schutz der Privatsphäre entfernen können ^[4].

Die Washington Post testete das im Oktober 2025. Sie erstellte mit Sora von OpenAI ein Video mit Content Credentials, veröffentlichte es in acht sozialen Apps und stellte fest, dass keine davon die Credentials behielt oder Nutzern anzeigte ^[8]. Nur YouTube fügte einen Hinweis hinzu, und dieser Vermerk mit dem Text „Veränderte oder synthetische Inhalte“ stand in der Videobeschreibung ^[8].

Sichtbare Wasserzeichen lassen sich noch leichter aushebeln. 404 Media berichtete, dass drei getestete Websites das sichtbare Sora-2-Wasserzeichen innerhalb von Sekunden aus Videos entfernten ^[9]. Das NIST beschreibt zudem Forschungsarbeiten, die zeigen, dass sich viele unsichtbare Bildwasserzeichen entfernen lassen, etwa indem man Rauschen hinzufügt und das Bild anschließend entrauscht ^[4].

Was sagen die Plattformen?

Meta kündigte 2024 an, KI-Kennzeichen in den Metadatenstandards C2PA und IPTC auszulesen, um Bilder auf Facebook, Instagram und Threads zu kennzeichnen ^[10]. In derselben Ankündigung räumte das Unternehmen ein, dass es noch nicht möglich sei, alle KI-generierten Inhalte zu erkennen, und dass unsichtbare Markierungen entfernt werden können ^[10]. Stattdessen verlangt Meta von Nutzern, fotorealistische KI-Videos und realistisch klingende Audioinhalte beim Veröffentlichen offenzulegen ^[10].

Sind Werkzeuge zur Erkennung von KI-Bildern zuverlässig?

Automatische Detektoren sind Klassifikatoren, die schätzen, wie wahrscheinlich eine Datei synthetisch ist. Sie können besser abschneiden als Menschen: Der eigene Detektor des Microsoft-Teams erreichte in der Studie bei echten wie bei KI-Bildern über 95% Genauigkeit ^[1]. Dieser Wert gilt für ein Forschungswerkzeug auf einem Datensatz, nicht für irgendeine kostenlose Website, die man im Netz findet.

Vorteile

• Die Microsoft-Forschenden beschreiben Erkennungswerkzeuge als deutlich zuverlässiger als Menschen, merken aber an, dass auch sie Fehler machen ^[1].
• Ihre Genauigkeit war in dieser Studie über alle Bildkategorien hinweg gleichmäßig, anders als die menschliche Genauigkeit, die je nach Motiv schwankte ^[1].

Grenzen

• Laut NIST schneiden Detektoren oft am besten bei Inhalten von den Generatoren ab, mit denen sie trainiert wurden, während ständig neue Modelle erscheinen ^[4].
• Sobald eine neue Erkennungsmethode auftaucht, werden Generatoren besser und Angreifer lernen, sie zu umgehen, so das NIST ^[4].
• Falsch positive Ergebnisse, bei denen echte Inhalte als KI eingestuft werden, können äußerst schädlich sein und zu Rufschädigung oder Benachteiligung führen ^[4].
• Teilweise bearbeitete Bilder sind schwer einzuordnen, und ob eine Bearbeitung „wesentlich“ ist, kann Ansichtssache sein ^[4].

Ein Detektorwert ist daher nur ein Baustein. Am nützlichsten ist er, wenn er mit anderen Indizien übereinstimmt, etwa fehlenden Originalquellen oder sichtbaren Fehlern.

Welche Methode sollten Sie wann einsetzen?

Jede Methode beantwortet eine andere Frage. Die visuelle Prüfung fragt, ob der Inhalt physikalisch plausibel aussieht ^[3]. Eine Wasserzeichenprüfung fragt, ob die KI eines bestimmten Unternehmens ihr Signal hinterlassen hat ^[5]. Content Credentials fragen, was der signierte Verlauf der Datei aussagt ^[7]. Eine umgekehrte Bildersuche fragt, wo und wann das Bild zuerst aufgetaucht ist; Google empfiehlt sie neben dem eigenen Werkzeug ^[5]. Die Tabelle unten vergleicht die Methoden.

Bei Entscheidungen mit großer Tragweite, etwa wenn über ein Nachrichtenereignis berichtet oder jemandem die Fälschung von Beweisen vorgeworfen wird, sollten Sie mehrere Methoden nutzen und auf Übereinstimmung achten. Das NIST merkt an, dass Organisationen mehrere Erkennungsverfahren kombinieren können, und betont, dass es keine Patentlösung gibt ^[4].

Welche Regeln schreiben eine Kennzeichnung von KI-Bildern vor?

In der Europäischen Union gelten die Transparenzpflichten nach Artikel 50 der KI-Verordnung (AI Act) ab dem 2. August 2026 ^[11]. Nach diesen Regeln müssen Anbieter von KI-Systemen Audio-, Bild-, Video- und Textausgaben maschinenlesbar markieren, damit sie als künstlich erzeugt erkannt werden können, und Betreiber müssen Deepfakes kennzeichnen; der Verhaltenskodex der Europäischen Kommission legt dar, wie das geschehen soll ^[11]. Der Kodex definiert Deepfakes als Bild-, Audio- oder Videoinhalte, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen könnten ^[11].

Die Befolgung des Kodex selbst ist freiwillig, die Pflichten nach Artikel 50 sind jedoch gesetzliche Verpflichtungen ^[11]. Der Zeitplan der Kommission nennt die Veröffentlichung des endgültigen Kodex am 10. Juni 2026, und bis Ende Juli 2026 hatten ihn etwa 190 Organisationen unterzeichnet ^[11]. Die EU hat außerdem eine Reihe von Symbolen geschaffen, die Betreiber zur Kennzeichnung KI-generierter Inhalte verwenden können ^[11]. Außerhalb der EU gelten Plattformregeln wie die Offenlegungspflichten von Meta ^[10], doch die Regeln unterscheiden sich von Land zu Land und ändern sich häufig; prüfen Sie daher die aktuelle Fassung, Stand 3. November 2026.

Wie geht es beim Erkennen von Fälschungen weiter?

Der Trend geht zu Kennzeichnungen, die bereits bei der Erstellung in Dateien eingebaut werden, statt dass Menschen Fehler aufspüren. Google kündigte an, die Prüfung in Gemini auf Content Credentials von Produkten außerhalb des eigenen Ökosystems auszuweiten ^[6], und seine Hilfeseite beschreibt diese Prüfungen inzwischen ^[5], während die Kennzeichnungsregeln der EU für Anbieter gelten ^[11]. Gleichzeitig beschreibt das NIST Angriffe, die Wasserzeichen entfernen oder fälschen („Spoofing“) ^[4], und der Test der Washington Post zeigte, dass Plattformen vorhandene Signale oft verwerfen ^[8].

Was ungewiss bleibt

• Wie gut Menschen im nächsten Jahr abschneiden. Die Microsoft-Autoren erwarten, dass die menschliche Genauigkeit sinkt, je besser die Generatoren werden ^[1].
• Ob Plattformen Credentials erhalten. Die Teilnahme an Content Credentials ist freiwillig, und im Test der Post behielt keine Plattform die Daten bei ^[8].
• Die Abdeckung der Wasserzeichen anderer Unternehmen. Stand 3. November 2026 kann der Prüfer in Gemini Wasserzeichen anderer Unternehmen noch nicht lesen ^[5].

Vorerst bleiben Prüfungen wichtig, die kein spezielles Werkzeug erfordern: Google empfiehlt die umgekehrte Bildersuche, um eine Originalquelle zu finden ^[5], und Hany Farid riet den Lesern von CBS News, sich bei aktuellen Nachrichten nicht auf soziale Medien zu verlassen ^[12].