Artikel 50 des EU AI Act: Was KI-Inhaltstransparenz ab August 2026 bedeutet

Ab dem 2. August 2026 wird Artikel 50 des EU AI Act anwendbar. Er regelt die Transparenzpflicht gegenüber Personen, die KI-Ausgaben sehen, hören oder mit ihnen sprechen. Die meiste Berichterstattung zum Gesetz konzentriert sich auf die Regeln für Hochrisikosysteme. Artikel 50 ist anders gelagert. Er gilt deutlich breiter, für jeden Anbieter oder Betreiber, dessen System mit einer Person kommuniziert oder synthetische Inhalte erzeugt, und er ist der Teil, den die meisten Content-, Marketing- und KI-Produktteams als Erstes zu spüren bekommen.

Im Folgenden geht es darum, was der Artikel tatsächlich verlangt, was die Europäische Kommission zur Unterstützung veröffentlicht hat, und wo Dokumenten- und Inhaltsprovenienz ansetzt, und wo nicht.

Was Artikel 50 verlangt

Der Artikel enthält vier getrennte Pflichten, jede für eine andere Situation:

• Offenlegung bei direkter Interaktion. Anbieter von KI-Systemen, die zur direkten Interaktion mit natürlichen Personen bestimmt sind, müssen sicherstellen, dass diese Personen wissen, dass sie es mit einem KI-System zu tun haben, sofern dies nicht ohnehin aus den Umständen offensichtlich ist.
• Maschinenlesbare und erkennbare Kennzeichnung. Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgabe in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar ist. Beide Eigenschaften sind erforderlich, eine für Menschen lesbare Kennzeichnung allein genügt nicht, wenn der Inhalt nicht auch von einem nachgelagerten System als synthetisch erkannt werden kann.
• Offenlegungspflicht im öffentlichen Interesse bei Deepfakes und KI-Texten. Betreiber von Systemen, die Deepfakes erzeugen, sowie Betreiber von KI-Systemen, die Texte zu Themen von öffentlichem Interesse erzeugen oder verändern und veröffentlichen, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
• Hinweispflicht bei Emotionserkennung und biometrischer Kategorisierung. Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen die davon betroffenen natürlichen Personen über die Funktionsweise des Systems informieren.

Jede Pflicht hat im vollständigen Gesetzestext eigene Ausnahmen und Grenzfälle, und die konkrete technische Form der Kennzeichnung wird in der Praxis noch erarbeitet und ist nicht durch die Verordnung selbst festgelegt.

Der Code of Practice der Kommission

Am 10. Juni 2026 veröffentlichte die Europäische Kommission einen Code of Practice zur Transparenz KI-generierter Inhalte. Es handelt sich um einen freiwilligen Rahmen, keinen verbindlichen Standard, der Anbietern und Betreibern helfen soll, die Kennzeichnungs- und Offenlegungspflichten aus Artikel 50 Absatz 2, 4 und 5 zu erfüllen. Der Beitritt zum Code ist ein Weg, um Compliance in gutem Glauben nachzuweisen, aber nicht der einzige, und er ersetzt nicht die zugrunde liegende gesetzliche Pflicht. Organisationen können Artikel 50 auch durch andere technische und organisatorische Massnahmen erfüllen, solange das Ergebnis erreicht wird: informierte Nutzer, erkennbare synthetische Inhalte, offengelegte Deepfakes.

Für den aktuellen Wortlaut der Pflicht selbst ist die Artikel-50-Seite des AI Act Service Desk die eigene Referenz der Kommission und lohnt einen direkten Blick, statt sich auf Zusammenfassungen aus zweiter Hand zu verlassen, auch nicht auf diese hier.

Durchsetzung und Sanktionen

Artikel 50 wird von den nationalen Marktüberwachungsbehörden der einzelnen EU-Mitgliedstaaten durchgesetzt, nicht von einer zentralen Behörde. Verstösse können mit Bussgeldern von bis zu fünfzehn Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Damit liegen Transparenzverstösse in derselben Bussgeldkategorie wie mehrere andere Pflichten des AI Act, deutlich über dem, was die meisten Unternehmen für eine Dokumentationslücke einplanen.

Wo Provenienzsiegel ansetzen, und wo nicht

An dieser Stelle wollen wir präzise sein statt werblich. Ein qualifiziertes, zeitgestempeltes Siegel auf einem Dokument oder einer Mediendatei belegt zwei Dinge: dass eine bestimmte Datei zu einem bestimmten Zeitpunkt in einem bestimmten Zustand existierte, und, auf der QES-Stufe nach ZertES und eIDAS, wer sie erstellt oder autorisiert hat. Das ist eine Form von Inhaltsprovenienz, und Provenienz liegt nahe an dem, was Artikel 50 Absatz 2 verlangt: eine Möglichkeit, im Nachhinein festzustellen, ob ein Inhalt tatsächlich das ist, was er vorgibt zu sein.

Das ist nicht dasselbe wie die maschinenlesbare, erkennbare KI-Inhaltskennzeichnung aus Artikel 50 Absatz 2, und es sollte auch nicht so dargestellt werden. Das Gesetz verlangt einen Kennzeichnungsmechanismus, der in den generierten Inhalt selbst eingebettet oder daran angehängt ist, wie ihn der Code of Practice der Kommission und die zugehörigen technischen Normungsarbeiten derzeit noch näher festlegen. Ein Swiss-Trust-Layer-Siegel belegt, was ein Dokument war, und auf der qualifizierten Stufe, wer dafür einsteht. Das ist ergänzende Evidenz, auf die sich eine Organisation berufen kann, wenn sie gutgläubige Provenienzpraxis rund um KI-nahe Inhalte wie Trainingsprotokolle, Modelldokumentation oder Offenlegungsprotokolle nachweist, kein Ersatz für den spezifischen technischen Kennzeichnungsstandard, der für die KI-generierte Ausgabe selbst gilt.

Teams, die KI-Produkte entwickeln und dabei auch Datensätze erzeugen oder nutzen, sollten sich zusätzlich ansehen, wie die Provenienz von Trainingsdaten dokumentiert und belegt wird, eine verwandte, aber eigenständige Pflicht aus den Data-Governance-Vorgaben des Gesetzes. Unsere Seite zur Provenienz von KI-Datensätzen behandelt diesen Teil der Compliance ausführlicher.

Was vor dem 2. August zu tun ist

Drei praktische Schritte für Teams mit KI-Berührungspunkten. Erstens, jedes System im eigenen Produkt erfassen, das direkt mit einer Person interagiert oder Audio-, Bild-, Video- oder Textinhalte erzeugt, und festhalten, welche der vier Pflichten jeweils greift. Zweitens, entscheiden, ob man sich auf den Code of Practice der Kommission, eigene technische Massnahmen oder eine Kombination stützt, und diese Entscheidung dokumentieren. Drittens, einen datierten Nachweis darüber führen, welche Offenlegungs- und Kennzeichnungspraxis zu welchem Zeitpunkt bestand, denn ein Streit über die Einhaltung dreht sich um das, was an einem bestimmten Datum tatsächlich vorhanden war, nicht um eine im Nachhinein verfasste Richtlinie.

Artikel 50 belohnt Organisationen, die ihre Arbeit belegen können. Ein klarer, zeitgestempelter Nachweis der eigenen Compliance-Entscheidungen lohnt sich unabhängig davon, auf welche konkrete Kennzeichnungstechnologie man sich am Ende festlegt.