Künstliche Dummheit: Qualitätssiegel für Fake News

Diese täuschend echte Szene von Sturm auf Ceuta hätte viele Menschen in die Irre führen können. Jetzt aber muss jedes in der EU generierte oder verbreitete KI-Bild deutlich sichtbar mit dem Warnlogo der EU-KI-Überwachungsbehörde versehen sein. 

Ist das Foto echt oder KI? Stimmt die Schlagzeile, stimmt der Inhalt der Nachricht? Wie falsch oder zumindest verfälscht wird die Pressemitteilung von Partei A wiedergegeben, wie stark wurde das Foto des US-Präsidenten so verändert, dass sein gefährlicher Charakter auf den ersten Blick zu erkennen ist?

Warum lässt eine Jubelmeldung auf manipulative Weise entscheidende Tatsachen weg? Weshalb versuchen Propagandisten stets gezielt, den Blick in die falsche Richtung zu lenken und wie gelingt ihnen das? Oft stehen Informationsverbraucher vor einem Rätsel, denn die Wahrheit ist oft schwer zu erkennen. 

Immer wieder neue Regeln 

Deshalb gelten jetzt in der EU erneut neue Regeln. Nicht nur, dass die Kommission Künstliche Intelligenz (EU-Sprachgebrauch AI) mit dem weltweit einmaligen KI Act wirksam an der Ausbreitung hindert und mit ihrem gemächlichen Zehn-Milliarden-Euro-Investitionsprogramm für große KI-Gigafabriken dafür sorgt, dass Europa dauerhaft auf amerikanische Rechnerfarmen angewiesen bleiben. Viele außerhalb Europas oder mit ausländischen Sprachmodellen geschaffene KI-Inhalte, also AI-Inhalte, müssen jetzt auch klar gekennzeichnet werden.

Nach der EU-Verordnung zu KI-Inhalten, amtlich KI-VO, ist es für Inhalteanbieter ab sofort unumgänglich, umfassenden Transparenzanforderungen zu genügen. Die KI-VO soll damit KI-Praktiken, die mit fundamentalen Werten der EU nicht vereinbar sind, zurückdrängen und die Verwendung von Systemen, die ein "inakzeptables Risiko für die Grundrechte der EU Bürgerinnen und Bürger darstellen" (Bundesbeauftragte für Datenschutz und Informationssicherheit) verbieten. 

Menschenschutz in 113 Kapiteln 

Die 113 Kapitel der "Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz"  wurde als Reaktion Fake News, Deepfakes und die Vielzahl der von vermeintlich seriösen Adressen verbreiteten Verschwörungstheorien beschlossen. Auf 144 Seiten breitet die Gemeinschaft alles aus, was sie über Künstliche Intelligenz weiß und welche "harmonisierten Vorschriften" (EU) sie für tauglich hält, den Siegeszug der Sprachmodelle zu stoppen, ehe er richtig begonnen hat.

Der Nutzen, den KI haben könne, sei unbestritten, argumentiert der Rechtsrahmen der Union. Doch verhindert werden müssten Schäden, die "materieller oder immaterieller Art sein" könnten, "einschließlich physischer, psychischer, gesellschaftlicher oder wirtschaftlicher Schäden". Als künftig erster KI-Kontinent, wie es Kommissionschefin Ursula von der Leyen nennt, setzt die größte Staatengemeinschaft der Geschichte zur Abwehr alles daran, "das europäische menschenzentrierte KI-Konzept zu fördern und bei der Entwicklung einer sicheren, vertrauenswürdigen und ethisch vertretbaren KI weltweit eine Führungsrolle einzunehmen".

Manipulation bleibt Menschensache 

Manipulation soll Menschensache bleiben. Gerade im politischen Nahkampf will die EU sicherstellen, dass zielgerichtet geänderte oder frei erfundene Propagandaparolen von menschlichen Fachkräften hergestellt werden, wie sie etwa bei der Meisterwerkstatt für Mediale Manipulation (MMM) beim ZDF  in Mainz oder beim für seine Enthüllungen über Hitler bekannten Magazin "Stern" arbeiten. 

Dort entstehen fein ziselierte Meldungen wie "die Justiz macht mobil für ein AfD-Verbotsfahren - mehr als 1000 Juristinnen und Juristen wenden sich nun an den Bundestag, um ein solches Verfahren einzuleiten" immer noch in Handarbeit. Störende Tatsachen wie der Umstand, dass in Deutschland 444.000 Juristen leben und sich mithin nicht einmal 0,24 Prozent "an den Bundestag" gewandt haben, werden dabei sorgsam und schmerzfrei von menschlichen Experten amputiert. 

Falsche Einordnung schadet nur 

Die gute Sache verlangt es: Eine Einordnung der Zahl könnte den Eindruck erwecken, es handele sich bei den Petenten um eine winzig kleine Gruppe. Zudem würfe die Meldung dann die Frage auf, in welch besorgniserregenden Zustand sich eine Justiz befindet, in der nicht einmal die Mehrzahl der über 7.000 Staatsanwältinnen und Staatsanwälte und nur eine verschwindende Minderheit der 22.000 Richter sich für ein solch nobles Anliegen engagiert.

KI kann das nicht. Die von ausländischen Konzernen dominierten Systeme, "die sie von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen abgrenzen", agiert seelenlos, in manchen Fällen ohne erkennbaren politischen Charakter und zuweilen sogar ohne Rücksicht auf die bereits 2019 verabschiedeten europäischen "Ethikleitlinien für vertrauenswürdige KI" zu nehmen. Die Bezeichnung "maschinenbasiert" legt das Dilemma offen: KI-Systeme werden von Maschinen betrieben, die Aufträge ausführen, ohne nach der Motivation der Auftraggeber zu fragen. 

Nach einer zweijährigen Übergangsfrist wurden mit dem Digitalen Omnibus zwar trickreich die Pflichten für Anbieter von Hochrisiko-KI-Systemen noch einmal auf den 2. Dezember 2027 verschoben. Damit will sich Europa einen längeren Startvorsprung bei der Einführung umfassender Kunstkniffe  verschaffen. Seit dem 2. August aber gelten immerhin schon alle Transparenzpflichten, die der AI Acts vorsieht. 

Wasserzeichen für falsche Inhalte 

Die menschenfreundlichen Vorschriften sind umfassend, detailliert und mit hohen Strafen bewehrt. Festgelegt haben Parlament, Kommission und EU-Rat im Trilog nicht nur, dass, sondern auch wie verfälschte oder veränderte Inhalte zu markieren sind, um die Einhaltung der Grundrechte zu gewährleisten. Vorgeschrieben sind sogenannte "Wasserzeichen", die ab sofort immer zu verwenden sind, wenn KI an Fotos, Videos oder Texten mitgearbeitet hat. 

Sobald Inhalte mit echten Personen, Orten oder Ereignissen verwechselt werden könnten oder Texte zu Angelegenheiten des öffentlichen Interesses keine menschliche Überprüfung erfahren haben, kommt ein typisch europäisches Warnsymbol zum Einsatz: Das nach dem Vorbild eines Tethered Cap gestaltete Logo muss nach Ablauf einer zweijährigen Übergangsfrist bei Fotos mindestens zwei Dritte des Bildinhalts überdecken. Videos sind jeweils einmal pro fünf Sekunden für eine Sekunde zur Hälfte damit zu überblenden. 

Textmarkierung offen

KI-generierte Texte hingegen profitieren von den Vorgaben des EU-AI Act, weil Kommission, Rat und Parlament noch über wirksame Markierungsmöglichkeiten streiten. Bisher steht nur fest, dass "KI-generierte oder manipulierte Texte, die veröffentlicht wurden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren" mit einem TC-Logo zu kennzeichnen sind. Handelt es sich um Texte, die nicht zu diesem  Zweck geschaffen wurden, darf das unterbleiben.

Vorerst können damit weiterhin amtliche Mitteilungen wie Polizeimeldungen, Informationen aus Parteizentralen und Ministerien, aber auch die von Nachrichtenagenturen ungeprüft verbreiteten Propagandamitteilungen ausländischer Regierungen und Kriegsparteien in Umlauf gebracht werden. Unterscheiden wird von der neugegründeten EU-KI-Aufsicht zwischen KI‑Modell mit allgemeinem Verwendungszweck und KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko.

Extra-Logo für Hochgefährliches 

Fotos und Videos, die von Risikosystemen, die "über Fähigkeiten mit hohem Wirkungsgrad" verfügen, müssen mit jeweils zwei Warnlogos versehen werden. Zum normalen Roten kommt dann ein Purpurfarbenes, dass laut Gesetz "mithilfe geeigneter technischer Instrumente und Methoden" von den Anbietern automatisiert eingefügt werden soll. Stichtag dafür ist der 2. August 2028, bis dahin müssen die ausländischen großen Internetfirmen entsprechende Automatismen schaffen, sonst drohen empfindliche Bußgelder von bis zu 50 Prozent des Jahresumsatzes.

Wie zuvor schon beim Atom- und Energieausstieg, bei Strohhalmverbot und den Tethered Caps, bei neuen Meinungsfreiheitsschutzgesetzen und der Rückkehr zum Majestätsbeleidigungsparagrafen schaut die Welt hoch interessiert nach Europa. Viele Menschen in den meisten Ländern teilen die ernsten Sorgen der Europäer vor der Machtübernahme durch Künstliche Intelligenz. 

Gefährliche billige Herstellungsverfahren 

Filme und Gifs, Karikaturen und Satire, die durch Maschinen hergestellt werden, gelten in der Wissenschaft schon aufgrund ihrer billigen Herstellungsverfahren als deutlich gefährlicher als der menschengemachte Hohn. In Brüssel, Paris und Berlin herrscht die Sorge, dass die Demokratie sich künftig durch Berge aus Witzbildchen und zynischen KI-Scherzen kämpfen muss. 

Vor allem sorgen Visionen für Schrecken, wie sie der Tech-Milliardär Elon Musk immer wieder verbreitet. Dass sein KI-gesteuerter Roboter "Optimus" jedem Menschen auf der Welt Zugang zur besten medizinischen Versorgung ermöglichen werde oder niemand mehr arbeiten müsse, um sein Leben zu finanzieren, macht vielen Menschen Angst. Ohne Arbeit, wer zahlt denn dann noch Steuern? Wenn die KI viele Aufgaben übernimmt, was bleibt dann noch für die Politik zu tun?

"Arbeit würde reduziert auf eine Art freiwillige Gartenarbeit, Geld würde einfach von Notenbank verteilt", hat sich der Karl Lauterbach über solche dystopischen Fantasien besorgt gezeigt. Dass Geld einfach von der Notenbank verteilt wird, je nach politischem Bedarf, hört sich aus heutiger Sicht wirklich utopisch an. Dennoch könnten Menschen solchen Parolen auf den Leim gehen. Das weltweit erste umfassende Anti-Deepfake-Gesetz soll deshalb Manipulationsversuchen etwa aus Russland, Spanien und den USA verhindern und den übelsten Manipulatoren einen Strich durch die miese Rechnung machen.

Die Verhaftung Karl Lauterbachs

Lange genug, heißt es in Brüssel, hätten Menschen Filme für echt gehalten, die die Verhaftung Karl Lauterbachs zeigten oder dessen früheren Ministerkollegen Robert Habeck, der Sozialstunden beim Laubsammeln im Park zeigten. Die Hersteller solche Deepfakes, oft gedungene Jugendgruppen aus dem mazedonischen Städtchen Veles, gehen dabei überaus planmäßig vor: Der KI-generierte Bildaufbau orientiert sich am historischen Vorbildern, die Hauptfiguren sind täuschend echt designt. Vieles erinnert überdeutlich an Fake-Bilder, wie sie bestimmte Medien nutzen, um Stimmung gegen die demokratisch gewählte Regierung zu machen. 

Damit soll Schluss sein. Keine gezielt erzeugten Anspielungen auf die Hitlerzeit mehr, keine künstlichen Bärtchen auf demokratischen Oberlippen oder Fotos von Bundeskanzlerinnen, die vermeintlich glücklich auf dem Eisernen Thron sitzen. Alles das bleibt im Rahmen der Meinungsfreiheit natürlich weiterhin erlaubt. Dank des Logo-Kataloges der EU, in Brüssel "Fake-Ampel" genannt, verbleibt das Monopol für ge- und verfälschte Bilder und Videos bei der Handvoll großer Medienkonzerne, die es schon seit Jahrzehnten verantwortungsvoll nutzt, um rassistische Stereotype und Hakenkreuze zu verbreiten.

Kein Jedermannsrecht mehr 

Mit der KI-Kennzeichnungspflicht werden Produkte Künstlicher Intelligenz wieder klar erkennbar. KI-Fakes , die von  Politikern als eigene Reden ausgegeben werden und von KI erstelle Dokumentationen, wie sie das ZDF in der Vergangenheit präsentierte, müssen mit dem "TC"-Logo kenntlich gemacht werden. Der augenzwinkernde Hinweis "nicht alle Bilder sind echt, aber doch viele", wie ihn die bekannte Journalistin Dunja Hayali in der Anmoderation des letzten KI-Beitrages des ZDF gab, reicht dann nicht mehr. Überall dort, wo Nachrichtennutzer mit KI-Manipulation in Kontakt kommen, muss das klar erkennbar sein. 

Die offizielle Liste der EU mit den vorgeschriebenen EU-Icons zur rechtssicheren Markierung falscher Tatsachen wird es Europa erlauben, die neue Kennzeichnungspflicht ebenso rasch und umfassend auszurollen wie einst die Cookie-Pflicht durchgesetzt werden konnte. Die Kontrollinfrastruktur,die auch die auch Hinweise aus der Bevölkerung aufnehmen wird, steht bereits Gewehr bei Fuß. In deutschland wird die Bundesnetzagentur auf gewohnte Weise hart durchgreifen und Bürgerinnen und Bürger vor KI ebenso entschlossen schützen wie vor hohen Benzinpreisen.