Neue Vorgaben durch den EU AI Act – Unternehmen im Fokus

Die erste Phase des EU AI Act ist gestartet

Seit dem 2. Februar 2025 gelten die ersten Regelungen des EU AI Act. Diese stellen einen bedeutenden Schritt in der Regulierung Künstlicher Intelligenz innerhalb der Europäischen Union dar. Unternehmen sollten sich darauf einstellen, da neue Vorschriften und Verpflichtungen eingeführt wurden.

1. KI-Praktiken: Strenge Verbote in Kraft

Bestimmte Anwendungen von Künstlicher Intelligenz sind ab sofort EU-weit untersagt. Diese betreffen allerdings nur sehr spezifische, potenziell schädliche Einsatzbereiche, die in der Praxis nur selten vorkommen:

• Der Einsatz manipulativer Techniken, die unterbewusst das Verhalten von Menschen beeinflussen und deren Entscheidungsfreiheit einschränken.
• Systeme, die gezielt Schwächen besonders schutzbedürftiger Gruppen ausnutzen, wie beispielsweise Kinder oder Menschen mit Behinderungen.
• Social-Scoring-Systeme, die Menschen auf Basis ihres Verhaltens, sozialer Interaktionen oder Persönlichkeitsmerkmale bewerten. Hier bleibt unklar, wie diese Regelung im Kontext von beispielsweise Kreditwürdigkeitsprüfungen anzuwenden ist.
• Biometrische Kategorisierungen, die sensible Merkmale wie ethnische Herkunft, politische Meinungen oder religiöse Überzeugungen nutzen.
• Der Einsatz von Emotionserkennung in Arbeits- und Bildungskontexten, etwa zur Analyse von Mitarbeitendenreaktionen auf Arbeitsanweisungen.
• Massenüberwachung durch biometrische Fernidentifikation im öffentlichen Raum in Echtzeit, mit Ausnahme einiger eng definierter staatlicher Anwendungen.

2. Anforderungen an die KI-Kompetenz in Unternehmen

Eine wesentliche Neuerung betrifft die Kompetenzanforderungen innerhalb von Unternehmen. Beschäftigte, die mit KI-Systemen arbeiten oder Entscheidungen treffen, die durch KI beeinflusst werden, müssen über entsprechendes Fachwissen verfügen.

Dies betrifft potenziell viele Mitarbeitende, da die Definition eines KI-Systems im AI Act recht breit gefasst ist. Bereits gängige Tools wie moderne Spam-Filter, Übersetzungssoftware oder Schreibassistenzprogramme fallen unter diese Regelung.

Maßnahmen zur Umsetzung der neuen Anforderungen

• Schulungen und Fortbildungen: Regelmäßige Weiterbildungsangebote zu den eingesetzten KI-Systemen sowie zu allgemeinen Grundsätzen im Umgang mit KI.
• Interne Richtlinien: Klare Vorgaben, wie, wann und von wem KI-Systeme genutzt werden dürfen.
• Teamübergreifende Zusammenarbeit: Eine enge Abstimmung zwischen juristischen, technischen und fachlichen Expertinnen und Experten.
• Externe Unterstützung: Gegebenenfalls die Hinzuziehung spezialisierter Beraterinnen und Berater.

Fazit

Der EU AI Act markiert einen Wendepunkt für den Umgang mit Künstlicher Intelligenz in der EU und bringt Unternehmen neue Herausforderungen. Insbesondere die Verpflichtung zur Förderung von KI-Kompetenzen und die Einhaltung der neuen Verbotsregelungen verlangen konkrete Maßnahmen.

Noch offen bleibt, welche Behörde in Deutschland künftig für die Marktüberwachung des AI Act zuständig sein wird. Es wird vermutet, dass dies die Bundesnetzagentur übernehmen könnte. Eine endgültige Entscheidung wird jedoch erst die nächste Bundesregierung treffen.

Sollten Sie Fragen zur Umsetzung der neuen Regelungen oder allgemein zum EU AI Act haben, können Sie die Autorin dieses Beitrags gerne über LinkedIn kontaktieren. Sie steht Ihnen bei weiteren Anliegen rund um den EU AI Act zur Verfügung.

---