Chatbots, KI-generierte Texte und automatisierte Datenanalysen: KI-Tools sind längst Teil des Arbeitsalltags in vielen Betrieben. Seit dem 1. August 2024 gilt mit dem EU AI Act (Verordnung (EU) 2024/1689) die erste umfassende europäische Regulierung für Künstliche Intelligenz (KI). Sie bringt neue Anforderungen für Unternehmen mit sich – darunter auch die Pflicht zur Förderung der KI-Kompetenz von Mitarbeitenden. Doch was bedeutet das konkret?

Was ist der EU AI Act?

Der EU AI Act ist die erste übergreifende gesetzliche Regelung für den Einsatz von Künstlicher Intelligenz in der EU. Er ist am 1. August 2024 in Kraft getreten und wird in Stufen bis zum 2. August 2027 umgesetzt. Ziel ist es, den Einsatz von KI sicher, ethisch und transparent zu gestalten, die Grundrechte zu schützen und gleichzeitig Innovation zu ermöglichen.

Die Verordnung folgt einem risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen. Weitere Informationen finden Sie hier: Was der neue AI Act für Betriebe bedeutet (ecovis.com)

Förderung von KI-Kompetenz für Mitarbeitende

Ein zentraler Grundsatz des AI Acts ist die Förderung von KI-Kompetenz (engl. „AI Literacy“) bei Personen, die mit KI-Systemen arbeiten. Diese Verpflichtung ist in Artikel 4 des AI Acts verankert und gilt seit dem 2. Februar 2025. Zwar ist sie nicht unmittelbar bußgeldbewehrt, doch Unternehmen müssen nachweislich dafür sorgen, dass Mitarbeitende über angemessene KI-Kompetenz verfügen.

Was bedeutet KI-Kompetenz?

Laut Artikel 3 Nr. 56 umfasst KI-Kompetenz die Fähigkeiten, Kenntnisse und das Verständnis, um KI-Systeme sachkundig und verantwortungsbewusst anzuwenden. Dazu zählen insbesondere:

• Grundverständnis der Funktionsweise von KI
• Einschätzung von Chancen und Risiken (z. B. Datenschutz, ethische Aspekte, „Halluzinationen“)
• Kenntnis über rechtliche Rahmenbedingungen (z. B. DSGVO, Urheberrecht, Transparenzpflichten nach Art. 50)

Wer ist von der Maßnahme betroffen?

Die Pflicht zur Kompetenzförderung richtet sich an:

• Anbieter (Provider): Unternehmen, die KI-Systeme entwickeln oder bereitstellen
• Betreiber (Deployer): Unternehmen, die KI-Systeme im beruflichen Kontext einsetzen

Betroffen sind alle Mitarbeitenden, die direkt oder indirekt mit KI arbeiten – z. B. in:

• Marketing (etwa bei KI-generierten Texten oder Bildern)
• Personalwesen (etwa im Bewerbermanagement)
• Produktion und Technik (z. B. bei KI-gesteuerten Maschinen)
• IT- und Rechtsabteilungen

Wichtig: Die Regelungen gelten nicht nur für Unternehmen mit Sitz in der EU, sondern für alle, deren KI-Systeme oder Inhalte auf dem europäischen Markt verfügbar sind. Der rein private Einsatz von KI ist davon ausgenommen.

Diese Maßgabe betrifft nicht nur Tech-Giganten, sondern auch kleine und mittlere Unternehmen (KMU), die externe KI-Tools in ihrem Geschäftsalltag einsetzen. Denn auch beim Einsatz eines vermeintlich „einfachen“ Tools wie ChatGPT ist es ratsam, entsprechende Kompetenzen aufzubauen. Ohne ausreichendes Verständnis können Mitarbeitende etwa unbeabsichtigt Fehlinformationen übernehmen, durch KI-Halluzinationen irreführende Inhalte verbreiten oder rechtliche Risiken wie Datenschutzverletzungen übersehen.

Was können Unternehmen konkret tun?

Unternehmen werden verpflichtet, „nach bestem Wissen und Gewissen“ sicherzustellen, dass Mitarbeitende, die mit KI-Systemen arbeiten, über ausreichende Kompetenzen verfügen. Dies ist keine bußgeldbewehrte Vorschrift, aber eine rechtlich bindende Anforderung, die je nach Einsatzkontext angepasst werden kann. Empfohlene Maßnahmen:

• Schulungen zu technischen, rechtlichen oder ethischen Grundlagen
• Differenzierte Inhalte je nach Fachbereich (z. B. HR, Marketing, IT)
• Dokumentation der Maßnahmen (z. B. Lernnachweise, Teilnahmeprotokolle, interne Richtlinien)

Sanktionen bei Nichteinhaltung

Der AI Act sieht keine direkten Bußgelder für das Fehlen von Kompetenzförderung nach Artikel 4 vor. Diese Vorschrift hat eher einen verpflichtenden Grundsatzcharakter. Allerdings können bei Verstößen gegen andere Vorgaben des AI Acts erhebliche Bußgelder drohen:

• Bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (bei schwerwiegenden Verstößen)
• Bis zu 15 Mio. € oder 3 % (bei allgemeinen Verstößen)
• Bis zu 7,5 Mio. € oder 1,5 % (z. B. bei falschen oder irreführenden Angaben gegenüber Behörden)

Indirekt besteht zudem das Risiko, dass ungeschulte Mitarbeitende Fehler begehen, die zu rechtlichen Problemen oder Reputationsschäden führen – etwa durch den unsachgemäßen Einsatz von KI oder fehlerhafte Ergebnisse.

Ausblick

Künstliche Intelligenz nimmt weiter an Bedeutung zu. Umso wichtiger ist es, Transparenz und Kompetenz im Umgang mit KI im Unternehmen zu stärken. Es empfiehlt sich, Ihre Mitarbeitenden gezielt im Umgang mit KI-Systemen zu schulen und Maßnahmen zur Kompetenzförderung zu dokumentieren. Ein erster Schritt ist eine Bestandsaufnahme: Welche KI-Systeme sind im Einsatz, und welche Risikoklasse haben sie (minimal, begrenzt, hoch, unannehmbar)? Darauf aufbauend lassen sich geeignete Schulungsmaßnahmen entwickeln.

Haben Sie Fragen? Schreiben Sie uns über das untenstehende Kontaktformular.