Chatbots, KI-generierte Texte und intelligente Datenanalyse: KI-Tools haben längst Einzug in Unternehmen aller Größenordnungen gehalten. Seit dem 1. August 2024 gilt mit dem EU AI Act (Verordnung (EU) 2024/1689) auch die erste europäische Regulierung für Künstliche Intelligenz (KI). Für Unternehmen bringt sie neue Anforderungen im Umgang mit KI, aber auch Empfehlungen – darunter die Empfehlung, die KI-Kompetenz der Mitarbeiterinnen und Mitarbeiter zu fördern. Doch was bedeutet das konkret für Ihr Unternehmen?

Was ist der EU AI Act?

Der EU AI Act ist die erste umfassende Regulierung von KI in der Europäischen Union. Er ist am 1. August 2024 in Kraft getreten und wird schrittweise umgesetzt. Ziel der Verordnung ist es, einen sicheren, ethischen und transparenten Einsatz von KI zu gewährleisten, die Grundrechte der Bürgerinnen und Bürger zu schützen und gleichzeitig Innovationen zu fördern.

Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems (z. B. für Sicherheit, Gesundheit oder Grundrechte), desto strenger sind die Anforderungen. Weitere Informationen finden Sie hier: Was der neue AI Act für Betriebe bedeutet (ecovis.com)

Förderung von KI-Kompetenz für Mitarbeitende

Ein wichtiger Aspekt des AI Acts ist die Förderung von KI-Kompetenz (engl. „AI Literacy“) für Mitarbeitende von Unternehmen, die KI-Systeme entwickeln, bereitstellen oder nutzen. Diese Empfehlung ist in Artikel 4 der Verordnung verankert und gilt seit dem 2. Februar 2025.

Was bedeutet KI-Kompetenz?

Gemäß Artikel 3 Nr. 56 umfasst KI-Kompetenz die Fähigkeiten, Kenntnisse und das Verständnis, um KI-Systeme sachkundig einzusetzen. Dazu gehören:

• Verständnis der Funktionsweise von KI
• Kenntnis der Chancen und Risiken (z. B. Datenschutz, ethische Fragen, „Halluzinationen“ von KI)
• Bewusstsein über gesetzliche Rechte und Pflichten (z. B. Transparenzpflichten nach Artikel 50, DSGVO, Urheberrecht)

Wer ist von der Empfehlung betroffen?

Die Empfehlung zur Förderung von KI-Kompetenz richtet sich sowohl an Anbieter (Unternehmen, die KI-Systeme entwickeln oder auf den Markt bringen) als auch an die Betreiber (Unternehmen, die KI im beruflichen Kontext nutzen). Zielgruppe sind alle Mitarbeitenden, die direkt oder indirekt mit KI arbeiten – etwa IT-Teams, Marketingabteilungen (z. B. bei KI-generierten Inhalten), Personalbereiche (z. B. Bewerbermanagement) oder die Produktion (z. B. KI-gesteuerte Maschinen).

Diese Empfehlung richtet sich nicht nur an Tech-Giganten, sondern auch an kleine und mittlere Unternehmen, die externe KI-Tools in ihrem Geschäftsalltag einsetzen. Denn auch beim Einsatz eines vermeintlich „einfachen“ Tools wie ChatGPT ist es ratsam, entsprechende Kompetenzen aufzubauen. Ohne ausreichendes Verständnis können Mitarbeitende u. a. unbeabsichtigt Fehlinformationen verbreiten, durch KI-Halluzinationen irreführende Ergebnisse übernehmen oder rechtliche Risiken wie Datenschutzverletzungen übersehen.

Was können Unternehmen konkret tun?

Unternehmen werden aufgefordert, „nach bestem Wissen und Gewissen“ sicherzustellen, dass Mitarbeitende, die mit KI-Systemen arbeiten, über ausreichende Kompetenzen verfügen. Dies ist keine direkte gesetzliche Pflicht, sondern eine Empfehlung, die an den jeweiligen Kontext angepasst werden kann. Schulungen sollten auf Branche, Einsatzbereich der KI und die Rollen der Beschäftigten abgestimmt sein – etwa mit technischem, rechtlichem oder ethischem Fokus. Es empfiehlt sich, diese Maßnahmen zu dokumentieren, um die Umsetzung nachweisen zu können.

Sanktionen bei Nichteinhaltung

Der AI Act sieht keine direkten Bußgelder für das Fehlen von KI-Kompetenzförderung nach Artikel 4 vor – diese Vorschrift hat eher einen appellativen Charakter. Allerdings können bei Verstößen gegen andere Vorgaben des AI Acts erhebliche Bußgelder drohen:

• Bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (bei schweren Verstößen)
• Bis zu 15 Mio. € oder 3 % (bei allgemeinen Verstößen)
• Bis zu 7,5 Mio. € oder 1,5 % (bei falschen oder irreführenden Angaben gegenüber Behörden)

Indirekt besteht zudem das Risiko, dass ungeschulte Mitarbeitende Fehler begehen, die zu Haftungsrisiken oder Reputationsschäden führen können – etwa durch Datenschutzverstöße oder fehlerhafte KI-Anwendungen.

Ausblick

Künstliche Intelligenz wird zunehmend Teil unseres Arbeitsalltags. Je früher Unternehmen die Kompetenzen ihrer Mitarbeitenden stärken, desto besser sind sie auf die Anforderungen des AI Acts vorbereitet. Die Empfehlungen der Verordnung sind auch für kleinere Betriebe umsetzbar, wenn sie strukturiert angegangen werden. Der Aufwand zahlt sich aus: Geschulte Teams reduzieren Risiken, steigern die Effizienz und sichern die Zukunftsfähigkeit des Unternehmens. Ein erster Schritt ist eine Bestandsaufnahme: Welche KI-Systeme sind im Einsatz, und welche Risikoklasse haben sie (minimal, begrenzt, hoch, unannehmbar)? Darauf aufbauend können passende Schulungen entwickelt werden.

Haben Sie Fragen zum Einsatz von KI in Ihrem Unternehmen? Wir unterstützen Sie dabei. Schreiben Sie uns über das untenstehende Kontaktformular.