Wunsch und Wirklichkeit - die Rolle von KI bei der Bekämpfung von Desinformationen

Wer über Desinformation und Künstliche Intelligenz spricht, greift schnell zu einem einfachen Bild: auf der einen Seite die Fälscher mit ihren Maschinen, auf der anderen die Prüfer, die dagegenhalten. Dieses Bild trägt nicht weit. Das Auffälligste an der Technik ist, dass sie auf beiden Seiten dieselbe ist.

In der Fachdebatte wird das als Doppelnatur beschrieben: KI ist zugleich ein Werkzeug, das beim Prüfen von Fakten hilft, und eines, mit dem sich Informationsstörung erzeugen oder verstärken lässt — Verbündete und Gegnerin der Faktenprüfer in einem. Dieselbe Beobachtung findet sich in der Forschungsliteratur: KI-Verfahren erleichtern böswilligen Akteuren das Herstellen und Verbreiten von Desinformation, und sie werden umgekehrt genau dazu eingesetzt, Desinformation online zu bekämpfen.

Die Verfahren selbst machen den Zusammenhang greifbar. Auf der Angriffsseite steht generative KI für die Inhaltsproduktion — Deepfakes, also synthetische Video- oder Audioaufnahmen, die reale Personen nachahmen, dazu maschinell erzeugter Text aus großen Sprachmodellen. Hinzu kommen synthetische Identitäten, automatisierte Konten-Netzwerke und die Koordination von Kampagnen im großen Maßstab. Auf der Verteidigungsseite dient KI dazu, gefälschte Inhalte und Konten zu erkennen sowie Faktencheck und Moderation zu automatisieren. Wie nah sich beides kommt, zeigt ein europäisches Forschungsprojekt zur Verifikation: Zu seinen ersten Ergebnissen zählen Erzeugung und Erkennung synthetischer Texte mit Sprachmodellen — beides im selben Vorhaben.

Auch technisch ist der Boden geteilt. Als Deepfake bezeichnet man das Produkt, wenn KI-Verfahren zur Herstellung gefälschter Inhalte genutzt werden; im Kern arbeiten moderne Deepfake-Techniken mit einem generativen Modell, typischerweise einem Generative Adversarial Network oder einem Diffusionsmodell. Weil beide Seiten aus demselben Baukasten schöpfen, ist daraus ein Wettlauf geworden: Der Kampf zwischen KI-erzeugter Desinformation und KI-gestützter Erkennung gilt als eine zentrale Front im Ringen um einen gesunden Informationsraum. Und er wird von der Fälscherseite aus aktiv geführt — Betrüger bearbeiten ihr Material gezielt nach, um Sicherheitsprüfungen zu umgehen.

Wer also fragt, ob KI dem Problem nützt oder schadet, stellt die Frage eine Stufe zu früh. Sie tut beides, mit denselben Mitteln. Interessant ist deshalb nicht, welche Seite die Technik besitzt, sondern wie gut sie in der jeweiligen Rolle tatsächlich funktioniert.

Die Aufregung um die neue Technik verführt zu dem Schluss, mit ihr sei auch das Problem in die Welt gekommen. Das ist ein Missverständnis mit Folgen, denn es lenkt den Blick auf das Falsche. Um zu verstehen, was sich gerade tatsächlich verschiebt, lohnt sich zunächst ein Blick zurück — auf eine Geschichte, die deutlich älter ist als jedes Sprachmodell.

Gefälschte Medien gibt es, so ein in der Forschung viel zitierter Befund, so lange es Medien gibt, die sich fälschen lassen: Fälscher haben Dokumente und Kunstwerke nachgemacht, Jugendliche ihre Führerscheine. Auch Falschnachrichten sind kein Kind der Digitalisierung. Sie kursierten schon lange, bevor der Buchdruck ihre Verbreitung erleichterte. Ein häufig angeführtes Beispiel reicht mehr als zweieinhalbtausend Jahre zurück: Sokrates wurde zum Tode verurteilt, gestützt auf die falsche Behauptung, er habe sich an den Göttern Athens versündigt und die Jugend verdorben. Dass der Ausdruck „fake news“ heute allgegenwärtig scheint, sagt daher wenig über das Alter des Phänomens aus — eine Auswertung von Google Trends zeigt den Popularitätsschub des Begriffs rund um die US-Präsidentschaftswahl 2016.

Neu ist auch die technische Verstärkung nicht. Mit den digitalen Medien wuchs das Problem bereits einmal spürbar: Werkzeuge wie Photoshop machten es vergleichsweise ungeübten Akteuren möglich, Fotografien anspruchsvoll zu verändern. Die Forschung behandelt Desinformation entsprechend als ein lang bestehendes Problem, das durch die KI-Systeme des heutigen Web verschärft wird — nicht als deren Erfindung. Für Inhalte, die mit KI-Techniken gefälscht werden, hat sich dabei ein eigener Name eingebürgert: Deepfake.

Der eigentliche Bruch liegt woanders, nämlich bei der Hürde. Beobachtungen aus den Wahljahren zeigen es deutlich: Dass inzwischen auch technisch unbedarfte, ungeübte Nutzerinnen und Nutzer überhaupt realistisch wirkende synthetische Inhalte erzeugen können, senkt die Schwellen für die Verbreitung von Desinformation erheblich — und öffnet neue Risikoquellen im Inland, jenseits ausländischer Kampagnen. Analysen KI-getriebener Desinformation kommen zum gleichen Schluss: Die jüngsten Entwicklungen senken die Hürde für böswillige Akteure, falsche Inhalte in großem Maßstab herzustellen und zu verbreiten, und verwischen die Grenze zwischen Wahrheit und Erfindung.

Wer also fragt, was die KI mit der Lüge macht, bekommt eine unspektakuläre, aber folgenreiche Antwort. Sie erfindet die Lüge nicht. Sie senkt die Hürde.

Wenn ein Erkennungsprogramm eine Fälschung entlarvt, sucht es nach Spuren, die beim Erzeugen zurückbleiben: nach unnatürlich glatter Haut, nach Farbunterschieden zwischen Gesicht und Hintergrund — oder nach auffälligen Blinzelmustern, die von der Frequenz echten menschlichen Blinzelns abweichen. Wie gut das gelingt, drücken Fachleute in Prozentzahlen aus. Die entscheidende Frage lautet allerdings: gemessen woran?

Die Werte, mit denen Detektoren beworben werden, klingen beeindruckend. Nahe am Stand der Technik seien sie, heißt es, mit bis zu 95 Prozent auf etablierten Forschungsdatensätzen wie FaceForensics++, Celeb-DF v2 und DFDC. Daneben steht der AUC-Wert, ein zusammenfassendes Maß dafür, wie sauber ein Verfahren Fälschung und Echtes trennt: je näher an 100, desto besser; ein Wert um 50 entspricht dem Ergebnis einer geworfenen Münze. Ein Verfahren aus der forensischen Forschung erreichte auf FaceForensics++ sogar einen AUC-Wert von 98,52 Prozent — schnitt auf den Datensätzen DFD, DFDC und Celeb-DF aber schlechter ab.

Genau dieses Gefälle ist das Muster. Eine Übersichtsarbeit hält fest, dass FaceForensics++ inzwischen als gesättigt gilt — die meisten Methoden liegen dort über 99 Prozent. Dieselben Verfahren, die auf FaceForensics++ 99 Prozent erreichen, können auf DFDC weit schlechter dastehen, und daran ändert auch eine besonders ausgefeilte Architektur nichts. Die Autoren ziehen daraus einen unbequemen Schluss: Die Modelle lernen offenbar Eigenheiten ihres Trainingsdatensatzes — Kompressionsmuster, die Übergangskanten eingesetzter Gesichter, Unstimmigkeiten im Farbraum — statt grundlegender, übertragbarer Merkmale synthetischer Medien. Über die untersuchten Methoden hinweg beziffert die Arbeit den Einbruch beim Wechsel des Datensatzes auf durchschnittlich 10 bis 15 Prozent. Transformer-Architekturen halten sich etwas besser, mit einem Rückgang von 11,33 Prozent gegenüber mehr als 15 Prozent bei klassischen CNNs — dafür kosten sie das Drei- bis Fünffache an Rechenaufwand.

Wie weit die Lücke im Extremfall klafft, zeigt ein Test an über 500.000 eigens erzeugten, hochwertigen Deepfake-Bildern: Weniger als die Hälfte der geprüften Detektoren kam dort überhaupt auf einen AUC-Wert über 60 Prozent, der schlechteste landete bei 50. Schon einfache Eingriffe wie JPEG-Kompression drückten die Leistung deutlich.

Ein systematischer Literaturüberblick benennt die Ursache nüchtern: Modelle neigen dazu, sich an die verfügbaren Datensätze zu überanpassen; CNN-basierte Verfahren, die räumliche Ungereimtheiten zuverlässig finden, verlieren an Wirkung, sobald die Fälschung aus einer anderen Umgebung stammt. Nur 46,3 Prozent der ausgewerteten Veröffentlichungen hielten die Erkennung überhaupt für verallgemeinerbar. Der Spitzenwert auf dem Papier beschreibt also nicht, was ein Detektor draußen leistet — er beschreibt, wie gut er sein eigenes Übungsmaterial kennt.

Ein Bild, das im Labor geprüft wird, und dasselbe Bild, nachdem es durch Messenger, Plattformen und Bildbearbeitung gelaufen ist, sind für einen Detektor nicht dieselbe Sache. Genau hier liegt eine der unangenehmsten Lücken der Deepfake-Erkennung: Die eindrucksvollen Zahlen stammen fast immer von sauberem Material, während das Netz mit Material arbeitet, das komprimiert, skaliert und neu kodiert wurde.

Warum das etwas ausmacht, lässt sich am Beispiel der JPEG-Kompression erklären. Sie verkleinert eine Datei, indem sie Pixelwerte verändert; dabei gehen feine Details verloren, und es entstehen Kompressionsartefakte. Ein Detektor, der genau auf die Pixelstruktur unkomprimierter Bilder eingestellt ist, kann auf komprimiertem Material schlechter abschneiden. Ähnliches gilt für das Verkleinern: Die meisten Detektoren enthalten in ihrer Vorverarbeitung eine Routine, die Gesichter zuschneidet und auf eine feste Größe bringt — und die kann ausgerechnet den Unterschied zwischen einem von Haus aus schlechten und einem stark heruntergerechneten Bild verwischen. Das ist kein Randfall: Bei Identitätsprüfungen schwankt die Bildqualität ohnehin, etwa wegen schlechter Internetverbindung oder schwacher Kameras. Auch das Nachschärfen zählt dazu; Betrüger verfeinern Fälschungen zunehmend mit Aufwertungswerkzeugen, die Gesichtszüge und Texturen aufwerten.

Wie stark der Effekt ausfällt, zeigt eine Untersuchung, die mehrere Face-Swap-Detektoren einmal auf sauberen und einmal auf gestörten Daten laufen ließ. Die durchschnittliche Trefferquote fiel von 94,7 Prozent auf saubere auf 67,8 Prozent auf gestörte Daten — ein Rückgang um 26,9 Prozentpunkte. JPEG-Kompression und Bewegungsunschärfe verursachten dabei die größten Einbrüche, mit Verlusten von bis zu 35 Prozent, besonders bei schlanken CNN-Detektoren. Zwei Verfahren, FSD-GAN und FakeTracer, hielten sich mit höchstens 15 Prozent Verlust deutlich besser. Die Studie zieht daraus einen scharfen Schluss: Wer im Labor gut ist, kann in den tatsächlich betriebenen Verarbeitungsketten unbrauchbar sein.

Ein zweiter Test, der reale Bedingungen nachstellte, kommt zu einem ähnlich nüchternen Bild: Weniger als die Hälfte der geprüften Detektoren erreichte einen AUC-Wert über 60 Prozent, der schlechteste lag bei 50. Und die Störungen sind nicht nur Pech. In der Forschung gilt Robustheit gegenüber Bildern geringer Qualität als vergleichsweise wenig untersucht — obwohl sich solche Verschlechterungen gezielt einsetzen lassen, um eine Erkennung zu umgehen.

Bei Bildern und Videos geht es darum, eine Fälschung zu entlarven. Bei Texten steht eine andere Frage im Raum: Hat das ein Mensch geschrieben oder eine Maschine? Vor allem im Bildungsbereich ist das Interesse groß — Lehrende wollen wissen, wann und wo Lernende KI-Schreibwerkzeuge eingesetzt haben. Weil Menschen KI-erzeugte Texte mit bloßem Auge kaum zuverlässig erkennen, ist die Nachfrage nach automatischen Detektoren entsprechend dringend. Umso wichtiger ist die Frage, wen diese Detektoren treffen, wenn sie sich irren.

Eine Untersuchung hat sieben verbreitete GPT-Detektoren an zwei Sammlungen menschlich geschriebener Aufsätze getestet: an 91 TOEFL-Aufsätzen von Nicht-Muttersprachlern aus einem chinesischen Forum und an 88 Aufsätzen von US-Achtklässlern. Die Aufsätze der US-Schülerinnen und -Schüler wurden zutreffend eingeordnet. Bei den TOEFL-Aufsätzen dagegen stufte im Schnitt über alle sieben Detektoren hinweg mehr als die Hälfte als „KI-generiert" ein — die durchschnittliche Falsch-Positiv-Rate lag bei 61,3 Prozent. Bei 19,8 Prozent dieser von Menschen verfassten Aufsätze waren sich alle Detektoren einig, es handle sich um KI-Text. Und 97,8 Prozent der TOEFL-Aufsätze wurden von mindestens einem Detektor markiert. Die drei Zahlen messen also Unterschiedliches: einen Durchschnitt, eine Einstimmigkeit und einen Einzeltreffer.

Der Grund liegt im Maßstab. Die meisten Detektoren stützen sich auf die sogenannte Perplexität — ein Maß dafür, wie „überrascht" ein Sprachmodell beim Erraten des nächsten Wortes ist. Wer mit begrenzterem sprachlichem Repertoire schreibt, produziert vorhersagbaren, also perplexitätsarmen Text. Genau das bestraft der Detektor. Ließ man die TOEFL-Aufsätze sprachlich anreichern, sank die durchschnittliche Falsch-Positiv-Rate von 61,3 auf 11,6 Prozent; vereinfachte man umgekehrt den Wortschatz der US-Achtklässler-Aufsätze, stieg die Fehleinstufung deutlich an. Auch bei Fachaufsätzen zeigte sich: Arbeiten von Erstautoren aus Ländern ohne Englisch als Landessprache hatten die niedrigere Perplexität.

Dieselbe Schwäche macht die Detektoren leicht umgehbar. Vom Modell erzeugte Bewerbungsaufsätze wurden zunächst gut erkannt; bat man das Modell aber, den eigenen Text mit gehobener Sprache zu überarbeiten, fielen die Erkennungsraten auf nahezu null. Eine simple Änderung der Anweisung an das Modell genügte.

Auch Wasserzeichen im Text sind kein Ausweg. Sie sind anfällig für sinnerhaltende Angriffe — Umformulieren, Rückübersetzen, Einbetten in fremden Text. Wird eine markierte Passage in zehnmal so viel unmarkierten Text eingebettet, fällt die Erkennungsgüte auf einen AUC-Wert von 0,62, kaum über Raten; zugleich wird mehr als die Hälfte der unmarkierten Texte fälschlich als markiert gemeldet. Ab einem Verhältnis von 20 zu 1 liegt der Wert bei etwa 0,5 oder darunter.

Textanalyse-Programme sind anfällig für Fehlalarme wie für Übersehenes, weil sich mehrdeutige Texte schwer maschinell zerlegen lassen. Verlässliche Einordnung braucht weiterhin Menschen.

Erkennung setzt immer erst ein, wenn die Fälschung schon in der Welt ist — sie läuft dem Problem hinterher. Die Gegenidee dreht die Richtung um: Statt später zu prüfen, ob etwas synthetisch ist, soll die Herkunft schon beim Entstehen mitgeschrieben werden. Dafür gibt es zwei technisch grundverschiedene Wege, die gern in einen Topf geworfen werden.

Das Wasserzeichen zuerst. Bei Videos wird es unmittelbar in die Bildpunkte jedes einzelnen Frames eingebettet: für das menschliche Auge nicht wahrnehmbar, für einen Prüfalgorithmus aber auslesbar. Bei Text gibt es keine Pixel, also setzt das Verfahren an der Wortwahl an. Sprachmodelle bauen ihre Antworten Baustein für Baustein und vergeben für jeden möglichen nächsten Baustein eine Wahrscheinlichkeit. Das Wasserzeichen verschiebt diese Wahrscheinlichkeiten während der Erzeugung leicht; das entstehende Muster wird später mit dem Muster verglichen, das man bei markiertem und bei unmarkiertem Text erwarten würde. Qualität, Genauigkeit oder Tempo der Erzeugung leiden darunter nicht.

Robust ist das nur in Grenzen. Am besten funktioniert es bei langen, sprachlich freien Antworten; Kürzen, einzelne ausgetauschte Wörter und mildes Umformulieren übersteht die Markierung, doch bei gründlicher Neuformulierung oder Übersetzung sinkt die Trefferkonfidenz stark. Bei knappen Faktenfragen bleibt ohnehin kaum Spielraum, die Wortwahl zu verschieben. Eine Untersuchung zeigt zudem: Bettet man den markierten Text in genügend unmarkierten ein, fällt die Erkennung auf Zufallsniveau, und lässt ein anderes Sprachmodell den Text neu erzeugen, etwa über eine Rückübersetzung, wird das Signal massiv geschwächt. Der Anbieter selbst nennt sein Verfahren ausdrücklich keine Allzwecklösung.

Der zweite Weg klebt das Etikett außen an. In einem signierten Manifest werden Herkunft und Bearbeitungsschritte festgehalten, bis hin zu Zutaten wie der Anweisung, die ein KI-System bekommen hat. Signiert wird mit derselben Zertifikatstechnik, die hinter verschlüsselten Webverbindungen und PDF-Signaturen steckt, samt Vertrauenskette über Zertifizierungsstellen. Entscheidend ist die feste kryptografische Bindung an die Datei: Wird an der Datei etwas verändert, wird das Manifest ungültig. Manipulation bleibt also nicht unbemerkt — auch dann nicht, wenn das Manifest gar nicht in der Datei steckt, sondern daneben liegt.

Nur überlebt dieses Etikett den Weg durchs Netz oft nicht. Herkunftsdaten werden bei der Verbreitung routinemäßig entfernt oder beschädigt, etwa von älteren Systemen, die den Standard nicht kennen, und typischerweise dort, wo Plattformen eigene Fassungen einer Datei ausspielen. Als Gegenmittel sieht der Standard vor, eine Kopie des Nachweises in einem Verzeichnis zu hinterlegen und später wieder auffindbar zu machen. Und selbst ein intaktes Manifest beantwortet nur die Frage, woher etwas stammt und ob es seither angefasst wurde — nicht, ob das Gezeigte stimmt.

Wenn Behauptungen schneller entstehen, als Redaktionen sie prüfen können, verschiebt sich die entscheidende Frage: Nicht jede falsche Aussage lässt sich widerlegen, also muss man wissen, welche es wert ist. Genau an dieser Stelle — nicht beim Urteil selbst, sondern bei der Vorauswahl — arbeitet Technik heute nachweislich mit.

Das Verfahren dahinter heißt Claim-Matching und ist unspektakulärer, als der Begriff klingt: Ein System liest laufend Text mit, erkennt darin überprüfbare Aussagen und gleicht sie mit bereits geprüften Behauptungen ab. Die Technik der britischen Organisation Full Fact ist aus früher maschineller Sprachverarbeitung hervorgegangen, lange vor den heutigen generativen Modellen. Das Team begann damit, Systeme darauf zu trainieren, überprüfbare Aussagen zu erkennen und sie mit vorhandenen Faktenchecks zusammenzuführen. 2019 justierten die Entwickler Googles Sprachmodell BERT — auf Sprachverstehen ausgelegt, nicht auf Texterzeugung — so nach, dass es Behauptungstypen in Nachrichten und sozialen Medien einordnet. Mit Zehntausenden menschlicher Annotationen lernte das Modell, große Textströme zu sortieren: mehr als 300.000 Sätze pro Tag, wobei es auch Behauptungen wiedererkennt, die in anderer Formulierung erneut auftauchen. In den vergangenen zwei Jahren kamen größere generative Modelle hinzu, die den möglichen Schaden einschätzen und umformulierte Varianten aufspüren, an denen ältere Systeme scheiterten.

Praktisch landet das Ergebnis in einer Weboberfläche, die Behauptungen aus Nachrichten, sozialen Medien, Podcasts, Video und Radio zusammenträgt. Teams können nach Thema oder sprechender Person suchen, nachsehen, wo eine Behauptung schon aufgetaucht ist, und sich benachrichtigen lassen, wenn eine bereits widerlegte Aussage wieder hochkommt. Genutzt wurden die Werkzeuge von mehr als 40 Faktencheck-Organisationen in über 30 Ländern, darunter bei der nigerianischen Präsidentschaftswahl 2023, wo Prüferinnen und Prüfer damit virale Behauptungen in Echtzeit verfolgten und widerlegten.

Die Grenze ist dabei fest eingebaut. Die Systeme heben wahrscheinlich schädliche Falschinformation hervor und gruppieren sie — was untersucht und veröffentlicht wird, entscheiden die Faktenprüfer. Sie seien nicht als Ersatz für Faktenprüfer entworfen worden, heißt es aus dem Team, sondern sollten ihnen die zeit- und ressourcenintensive Medienbeobachtung abnehmen. Die Forschung stützt diese Arbeitsteilung: Menschliche Expertise bleibt nötig, weil KI-Systeme Kontext, Absicht und Glaubwürdigkeit nicht vollständig erfassen; auch komplexe Begriffe wie Ethik und kritisches Denken lassen sich schwer in Algorithmen übersetzen. Der Abgleich eines Textes mit externer Evidenz gelingt menschlichen Prüfern besser, weil sich die Feinheiten natürlicher Sprache kaum formalisieren lassen, und ohne einen Menschen in der Schleife ist die Verlässlichkeit der Urteile nicht zu garantieren.

Der Gewinn ist damit real, aber bescheiden: Die Maschine sortiert vor, sie entscheidet nicht.

Über den Erkennungsverfahren liegt in Europa eine rechtliche Klammer: der AI Act. Sie ist nicht das Thema dieses Artikels, aber sie ist aufschlussreich — weil sie an genau der Stelle nachgibt, an der die Technik unsicher wird.

Der zentrale Hebel ist Artikel 50 des AI Act. Er gilt ab dem 2. August 2026. Ab diesem Datum müssen alle KI-Systeme, die in seinen Anwendungsbereich fallen und in der EU in Verkehr gebracht oder in Betrieb genommen werden, die Vorgaben erfüllen — unabhängig davon, wann sie erstmals auf den Markt kamen. Zwei Pflichten sind für unser Thema entscheidend. Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen dafür sorgen, dass die Ausgaben in einem maschinenlesbaren Format markiert und als künstlich erzeugt oder manipuliert erkennbar sind. Und Betreiber, die Bild-, Ton- oder Videoinhalte erzeugen oder verändern, die einen Deepfake darstellen, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Diese Information muss klar und unterscheidbar spätestens zum Zeitpunkt der ersten Interaktion oder Konfrontation gegeben werden.

Der entscheidende Halbsatz steht in der Anbieterpflicht: Die technischen Lösungen sollen wirksam, interoperabel, robust und zuverlässig sein — aber nur, „soweit dies technisch machbar ist" (im Original: „as far as this is technically feasible"), und dabei sind die Besonderheiten und Grenzen der verschiedenen Inhaltsarten, die Kosten der Umsetzung und der allgemein anerkannte Stand der Technik zu berücksichtigen. Für Laien übersetzt: Das Gesetz setzt den Maßstab nicht selbst, sondern übernimmt ihn vom Stand der Technik — und erbt damit dessen Unschärfen.

Auch sonst ist der Rahmen durchlässiger, als der Begriff Kennzeichnungspflicht nahelegt. Die Offenlegungspflicht für Deepfakes entfällt, wo der Einsatz gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten erlaubt ist. Bei erkennbar künstlerischen, kreativen, satirischen oder fiktionalen Werken beschränkt sie sich darauf, das Vorhandensein solcher Inhalte in einer Weise anzuzeigen, die den Genuss des Werks nicht beeinträchtigt. Bei KI-generierten Texten zu Fragen von öffentlichem Interesse entfällt sie, wenn der Inhalt menschlich geprüft oder redaktionell kontrolliert wurde und eine Person die redaktionelle Verantwortung trägt. Der begleitende Verhaltenskodex zur Transparenz KI-generierter Inhalte wiederum ist ausdrücklich freiwillig; wer ihn nicht unterzeichnet, muss die Einhaltung der Pflichten mit alternativen, gleichwertig geeigneten Mitteln nachweisen.

Ein Rahmen also, der Erwartungen formuliert und ihre Einlösung an die Technik delegiert. Beobachter der europäischen Wahlkämpfe 2024/25 ziehen daraus einen nüchternen Schluss: Regelwerke wie der Digital Services Act, der AI Act und das Europäische Medienfreiheitsgesetz seien wichtige Schritte, müssten aber durch Maßnahmen der Branche selbst ergänzt werden.

Was auf die Öffentlichkeit zukommt, ist in den Quellen weniger die Ankündigung neuer Werkzeuge als eine Entwicklung der Menge: Das Material wird mehr, seine Herstellung billiger, seine Prüfung schwieriger.

Der Ausgangspunkt ist die Verfügbarkeit. Der Aufschwung generativer Verfahren hat die Werkzeuge der Täuschung demokratisiert — synthetische Videos, KI-erzeugte Stimmen und maschinell geschriebene Artikel sind heute ohne besonderen Aufwand zugänglich. Was Redaktionen Arbeit abnimmt, dient anderswo dazu, falsche Wirklichkeiten in großer Zahl herzustellen. Bei Deepfakes verlief es ähnlich: Seit ihrem Aufkommen 2017 haben sie sich in kurzer Zeit stark weiterentwickelt, getrieben von frei zugänglichen Open-Source-Werkzeugen, riesigen Datenmengen im Netz und wachsender Rechenleistung. Übersichtsarbeiten beschreiben immer komplexere Syntheseverfahren und Fälschungen, die realistischer und schwerer zu identifizieren werden. Mit besserer Technik, so die Quellen, werden sie noch ununterscheidbarer — die Erkennung muss sich also fortlaufend mitentwickeln. Auch die Zahlen deuten in diese Richtung: Eine Untersuchung stellt einer lokal fünffachen Zunahme von Deepfake-Inhalten einen weltweit zehnfachen Anstieg gegenüber und liest darin kein Bündel von Einzelfällen, sondern ein verbreitetes, sich beschleunigendes Muster.

Die zweite Linie betrifft nicht das einzelne Stück, sondern seine Verbreitung. Maschinelles Lernen hilft, automatisierte Konten so zu koordinieren, dass sie in Schwärmen und Netzwerken agieren; dazu kommen Echtzeit-Analyse sozialer Medien, laufende Anpassung der Strategie und Textproduktion in mehreren Sprachen und Stilarten. Weil solche Konten weit mehr Inhalte ausstoßen können als Menschen, entsteht ein einseitiger Schwall an Material. Je menschenähnlicher Bots durch KI werden, desto feiner müssen die Verfahren zu ihrer Enttarnung sein.

So klar diese Linien wirken, so ausdrücklich mahnen dieselben Quellen zur Zurückhaltung im Urteil. Die Analyse der britischen und europäischen Wahlen 2024 hält fest, dass der von manchen Kommentatoren vorhergesagte „Tsunami an KI-Fälschungen" ausblieb; das geringe Aufkommen erklärt sie mit der kurzfristig angesetzten Wahl, der kurzen Wahlkampfphase und dem durch Umfragen gestützten Vertrauen in den Ausgang, was die Anreize für böswillige Einmischung senkte. Wer darüber berichtet, soll deshalb Balance halten: Aufklärung auf Grundlage belastbarer Forschung ja, Spekulation oder Übertreibung der KI-Wirkung nein. Wenn Menschen sich nicht mehr zutrauen, Echtes von Synthetischem zu unterscheiden, liegt der voreilige Schluss nahe, alles Verdächtige sei ohnehin KI-Fälschung. Im britischen Wahlkampf traf das einen realen Kandidaten, der fälschlich für eine KI-Erzeugung gehalten und daraufhin online beschimpft wurde.

Der Ausblick hat damit zwei Seiten, die zusammengehören: mehr und billiger hergestelltes Material auf der einen, die Aufforderung auf der anderen, seine Wirkung nicht größer zu reden, als sie sich belegen lässt.