Seit dem 1. August 2024 gilt in Europa der EU AI Act (Verordnung (EU) 2024/1689) – die erste umfassende gesetzliche Regelung für Künstliche Intelligenz (KI). Für Unternehmen bringt sie neue Vorgaben mit sich – darunter ab dem 2. August 2026 eine gesetzlich verankerte Pflicht, KI-generierte Inhalte zu kennzeichnen. Doch was steckt dahinter, und wie wirkt sich das konkret aus?

Was ist der EU AI Act?

Der EU AI Act regelt den Einsatz von Künstlicher Intelligenz in Europa. Seit seinem Inkrafttreten am 1. August 2024 wird er stufenweise bis 2027 umgesetzt. Ziel der Verordnung ist es, den Einsatz von KI sicher, transparent und ethisch zu gestalten, die Grundrechte der Menschen zu schützen und gleichzeitig Innovation zu ermöglichen.

Die Verordnung folgt einem risikobasierten Ansatz: Je höher das Risiko einer KI-Anwendung – etwa für Sicherheit, Gesundheit oder Grundrechte –, desto strenger die Anforderungen. Mehr dazu hier: Was der neue AI Act für Betriebe bedeutet (ecovis.com)

Kennzeichnungspflicht: Ab wann?

Die Pflicht zur Kennzeichnung KI-generierter Inhalte tritt am 2. August 2026 in Kraft und ist in Artikel 50 des EU AI Acts geregelt. Diese Maßnahme dient dazu, Transparenz zu gewährleisten und Risiken wie Desinformation oder Täuschungen durch Deepfakes zu minimieren. Für Unternehmen bedeutet das: Sie müssen sicherstellen, dass erkennbar ist, wenn Inhalte nicht von Menschen, sondern von KI-Systemen erzeugt wurden.

Wer muss KI-Inhalte kennzeichnen?

Betroffen sind zwei Gruppen:

• Anbieter (Provider): Unternehmen, die KI-Systeme entwickeln oder bereitstellen (z. B. OpenAI, Midjourney)
• Betreiber (Deployer): Unternehmen, die KI im geschäftlichen Kontext nutzen (z. B. Marketing, Kundenservice, HR)

Wichtig: Die Regelung gilt nicht nur für Unternehmen mit Sitz in der EU, sondern für alle, deren KI-Inhalte auf dem europäischen Markt veröffentlicht oder bereitgestellt werden. Der rein private Einsatz ist davon ausgenommen.

Welche Inhalte müssen gekennzeichnet werden?

Die Kennzeichnungspflicht gilt für:

• Deepfakes: Realistisch wirkende Bilder, Videos oder Audios, die mit KI erstellt oder verändert wurden (z. B. synthetische Stimmen oder Gesichter)
• KI-Texte: Automatisch erzeugte Texte, die öffentlich verbreitet werden (z. B. Werbetexte, Produktbeschreibungen, Berichte)
• KI-Interaktionen: Chatbots oder virtuelle Assistenten, bei denen Nutzende informiert werden müssen, dass sie mit KI kommunizieren

Hinweis: Auch KI-generierte Inhalte, die auf Social Media oder Unternehmenswebsites verwendet werden, unterliegen der Pflicht – sofern sie täuschend echt wirken und nicht eindeutig redaktionell überarbeitet wurden.

Wie funktioniert die Kennzeichnung?

Die Kennzeichnung muss:

• für Menschen verständlich sein, z. B. durch sichtbare Hinweise wie „KI-generiert“, ein Wasserzeichen oder Label
• für Maschinen lesbar sein, z. B. durch technische Metadaten in Dateien (XML, IPTC, EXIF)

Beispiel: Ein mit Midjourney erstelltes Bild muss ein sichtbares Kennzeichen („KI-generiert“) tragen und maschinenlesbare Informationen enthalten. Viele KI-Tools fügen solche Metadaten automatisch hinzu. Das sichtbare Label liegt jedoch oft in der Verantwortung der Nutzer.

Gibt es Ausnahmen?

Ja. Wenn Inhalte redaktionell überarbeitet wurden – etwa durch eine Journalistin oder ein verantwortliches Redaktionsteam –, sodass sie nicht mehr als KI-Erzeugnis gelten, entfällt die Kennzeichnungspflicht. Entscheidend ist, ob eine inhaltliche Prüfung und menschliche Verantwortung übernommen wurde.

Was passiert bei Verstößen?

Verstöße gegen die Kennzeichnungspflicht nach Artikel 50 des EU AI Acts sind nicht unmittelbar bußgeldbewehrt. Sie können jedoch im Einzelfall – insbesondere bei systematischer Täuschung, irreführender Kommunikation oder in Verbindung mit Verstößen gegen Verbraucherschutz- oder Wettbewerbsrecht – aufsichtsrechtliche Konsequenzen nach sich ziehen.

Ausblick

KI-generierte Inhalte nehmen immer mehr Raum in unserem Alltag ein, umso wichtiger ist es, Transparenz und Verantwortung im Umgang mit KI im Betrieb zu fördern. Es empfiehlt sich, Ihre Mitarbeiterinnen und Mitarbeiter im Umgang mit KI zu schulen und über die Kennzeichnungspflicht zu informieren – letztlich auch, um Bußgelder zu vermeiden. Prüfen Sie zeitnah, welche KI-Systeme im Unternehmen eingesetzt werden und ob diese Inhalte generieren, die unter die Kennzeichnungspflicht fallen.

Haben Sie Fragen? Schreiben Sie uns über das untenstehende Kontaktformular.