Die EU zwingt Technologieunternehmen, ab Sonntag KI-generierte Inhalte zu kennzeichnen

• Ab dem 2. August müssen KI-Unternehmen Deepfakes und KI-generierte Inhalte gemäß dem EU-KI-Gesetz als künstlich kennzeichnen.
• Die Menschen sollten den Ursprung der KI kennen; Realistische Deepfakes riskieren online Täuschung, Schaden und politische Manipulation.
• Experten warnen, dass technische Lücken und ein Mangel an gemeinsamen Standards die Durchsetzung der Regeln untergraben könnten.

Die Europäische Union (EU) zwingt Technologieunternehmen und Fachleute für künstliche Intelligenz (KI), ab Sonntag, dem 2. August 2026, KI-generierte Inhalte gemäß dem KI-Gesetz der EU zu kennzeichnen. Die neuen Transparenzregeln verlangen klare Wasserzeichen und Offenlegungen auf synthetischen Inhalten, um den Nutzern zu helfen, zu erkennen, was real ist und was KI-generiert.

Das EU-KI-Gesetz schreibt ab dem 2. August Kennzeichnungen für KI-generierte Inhalte vor.

Ab dem 2. August 2026 treten die wichtigsten Transparenzverpflichtungen gemäß Artikel 50 des EU-KI-Gesetzes (Verordnung (EU) 2024/1689) in Kraft. Wichtige Anforderungen sind die Kennzeichnung von synthetischen Inhalten, maschinenlesbare Markierung, Chatbot-Offenlegung und Textkennzeichnung im öffentlichen Interesse. Die Verpflichtungen umfassen eine breite Palette von Systemen auf dem EU-Markt. Dies gilt nicht für persönlichen, nicht-professionellen Gebrauch.

Um die Einhaltung zu erleichtern, veröffentlichte die Europäische Kommission am 20. Juli 2026 endgültige Richtlinien sowie einen freiwilligen Verhaltenskodex zur Transparenz von KI-generierten Inhalten. Dazu gehören optionale standardisierte Symbole für konsistente Beschriftung, wie „KI GENERIERT“ oder „KI MODIFIED“.

Warum die EU KI-Kennzeichnung zur Bekämpfung von Deepfakes vorschreibt

Deepfakes sind hyperrealistische, von KI erzeugte oder KI-manipulierte Fotos, Audio oder Videos einer Person, die so aussehen, als würde sie etwas sagen oder tun, was sie nie getan hat. Sie bergen klare Risiken politischer Manipulation, Betrug, Reputationsschäden und der Verbreitung von Desinformation.

So wurden die Risiken beispielsweise durch hochkarätige Fälle hervorgehoben, wie etwa ein gefälschtes Video des ukrainischen Präsidenten Wolodymyr Selenskyj, der 2022 die Truppen zur Kapitulation ermutigt, sowie der nicht einvernehmliche Einsatz von KI zur Erstellung expliziter Fotos von Taylor Swift im Jahr 2024.

EU-Abgeordnete kamen zu dem Schluss, dass eine erhöhte Transparenz die proportionalste Reaktion auf das stetig steigende Risiko synthetischer Inhalte ist. Das ultimative Ziel ist nicht, KI-generierte Inhalte zu verbieten, sondern sicherzustellen, dass Europäer weiterhin dem Informationsumfeld vertrauen können, das ihrer Demokratie und ihrem sozialen Zusammenhalt zugrunde liegt.

Was kommt als Nächstes, wenn Experten vor Lücken in der KI-Durchsetzung warnen

Da die EU-Kennzeichnungsregeln an diesem Sonntag in Kraft treten, weisen Experten und Branchenakteure bereits auf wichtige Durchsetzungslücken hin, die ihre Auswirkungen in der realen Welt einschränken könnten. Die geografische Reichweite ist das größte Hindernis, da anderswo entwickelte Deepfakes leicht und schnell Millionen von Nutzern in der EU erreichen können, doch nur Unternehmen, die im EU-Markt aktiv sind oder sich auf den EU-Markt konzentrieren, sind durch das KI-Gesetz abgedeckt.

Eine weitere bedeutende Herausforderung sind weiterhin technische Einschränkungen. Während Unternehmen wie OpenAI und Google Schritte zur Transparenz umgesetzt haben, weisen Experten darauf hin, dass sich Erkennungs- und Markierungstechnologien weiterhin entwickeln. Es gibt keine universellen Standards, da Technologieunternehmen unterschiedliche Ansätze verwenden, darunter digitale Wasserzeichen, Metadaten und Systeme zur Herkunft von Inhalten

Darüber hinaus warnen Experten, dass digitale Marker beim Bearbeiten oder Teilen von Inhalten entfernt, verändert oder verloren gehen können. Die EU strebt daher einen mehrschichtigen Ansatz mit mehreren Erkennungstechniken an. Die Behörden werden die Einhaltung überwachen, und die Bußgelder für Verstöße könnten bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes betragen.

Verwandt: Europas ESMA startet CSA, um die Krypto-Compliance zu erhöhen