Seit dem 1. August 2024 gilt in Europa der EU AI Act (Verordnung (EU) 2024/1689) – die erste umfassende Regelung für Künstliche Intelligenz (KI). Für Unternehmen bedeutet das neue Vorgaben, unter anderem eine Pflicht, KI-generierte Inhalte zu kennzeichnen. Doch was steckt dahinter, und wie wirkt sich das konkret aus?

Was ist der EU AI Act?

Der EU AI Act regelt den Einsatz von Künstlicher Intelligenz in Europa. Seit seinem Inkrafttreten am 1. August 2024 wird er schrittweise umgesetzt. Ziel der Verordnung ist es, den Einsatz von KI sicher, transparent und ethisch zu gestalten, die Grundrechte der Menschen zu schützen und gleichzeitig Innovationen zu unterstützen. Dabei setzt der AI Act auf einen risikobasierten Ansatz: Je höher das Risiko einer KI, desto strenger die Regeln. Mehr dazu hier: Was der neue AI Act für Betriebe bedeutet (ecovis.com)

Kennzeichnungspflicht: Ab wann?

Ab dem 2. August 2025 tritt die in Artikel 50 des AI Acts verankerte Kennzeichnungspflicht für KI-generierte Inhalte in Kraft. Diese Maßnahme dient dazu, Transparenz zu gewährleisten und Risiken wie Desinformation oder Täuschungen durch Deepfakes zu minimieren. Für Unternehmen bedeutet das: Sie müssen sicherstellen, dass erkennbar ist, wenn Inhalte nicht von Menschen, sondern von KI-Systemen erzeugt wurden.

Wer muss KI-Inhalte kennzeichnen?

Betroffen sind zwei Gruppen:

1. Anbieter: Unternehmen, die KI-Systeme entwickeln und bereitstellen (z.B. OpenAI, Midjourney)
2. Gewerbliche Nutzer: Organisationen/Unternehmen, die KI im Geschäftsalltag einsetzen (z.B. für Marketing, Kundenservice)

Wichtig: Die Regelungen gelten nicht nur für Unternehmen mit Sitz in der EU, sondern für alle, deren KI-Inhalte auf dem europäischen Markt verfügbar sind. Der rein private Einsatz von KI ist von der Kennzeichnungspflicht ausgenommen.

Welche Inhalte müssen gekennzeichnet werden?

Die Kennzeichnungspflicht greift bei:

• Deepfakes: Bilder, Videos oder Audios, die echt wirken, aber von KI erzeugt oder verändert wurden (z. B. manipulierte Videos von Personen).
• KI-Texte: Automatisch erstellte Texte, die öffentlich genutzt werden, wie Berichte oder Werbung.
• KI-Interaktionen: Chatbots oder virtuelle Assistenten, die als KI erkennbar sein müssen.
• Biometrische KI: Systeme, die Emotionen oder Merkmale analysieren.

Wie funktioniert die Kennzeichnung?

Die Kennzeichnung muss zwei Dinge erfüllen: Sie soll für Menschen verständlich und für Maschinen lesbar sein.

• Für Menschen verständlich: Ein klar erkennbarer Hinweis wie „KI-generiert“ oder ein Wasserzeichen
• Maschinenlesbar: Technische Metadaten (z. B. in Bilddateien), die die KI-Herkunft nachprüfbar machen

Beispiel: Ein mit Midjourney erstelltes Bild benötigt sowohl ein sichtbares Wasserzeichen als auch entsprechende Metadaten in der Datei. Viele KI-Tools fügen solche Metadaten bereits automatisch hinzu, aber die sichtbare Kennzeichnung müssen Nutzer meist selbst ergänzen.

Ausnahme: Wenn Inhalte so stark überarbeitet werden, dass sie nicht mehr als KI-Werk gelten, und jemand die redaktionelle Verantwortung übernimmt (z. B. ein Journalist), entfällt die Kennzeichnungspflicht.

Was passiert bei Verstößen?

Wer die Transparenzregeln missachtet, riskiert hohe Strafen: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes – je nachdem, was höher ist. Abseits von Bußgeldern könnten ungekennzeichnete Inhalte auch rechtliche Auseinandersetzungen auslösen, etwa wenn Kunden getäuscht werden.

Ausblick

KI-generierte Inhalte nehmen immer mehr Raum in unserem Alltag ein, umso wichtiger ist es, Transparenz und Verantwortung im Umgang mit KI im Betrieb zu fördern. Es empfiehlt sich, Ihre Mitarbeiterinnen und Mitarbeiter im Umgang mit KI zu schulen und über die Kennzeichnungspflicht zu informieren – letztlich auch, um Bußgelder zu vermeiden. Prüfen Sie zeitnah, welche KI-Systeme im Unternehmen eingesetzt werden und ob diese Inhalte generieren, die unter die Kennzeichnungspflicht fallen.

Haben Sie Fragen zum Einsatz von KI in Ihrem Unternehmen? Wir unterstützen Sie dabei. Schreiben Sie uns über das untenstehende Kontaktformular.