Künstliche Intelligenz in Unternehmen

Spätestens seit dem Inkrafttreten der KI-Verordnung (KI-VO) am 2. Februar 2025 sind Unternehmerinnen und Unternehmer herausgefordert, sich mit dem Einsatz und der Implementierung von Werkzeugen mit künstlicher Intelligenz in ihrem Unternehmen auseinanderzusetzen. Die Einsatzmöglichkeiten von KI sind so vielfältig wie die Unternehmen selbst – je nach Branche und Zielsetzung kommt sie etwa in der Prozessoptimierung, in der HR-Abteilung oder der Kundenanalyse zum Einsatz. 

Die KI-Verordnung der EU, als weltweit erste Regelung für künstliche Intelligenz, hat es sich zum Ziel gemacht, einen Standard zu gewährleisten, der sicherstellt, dass KI-Systeme sicher, ethisch vertretbar und vertrauenswürdig sind. Die Verordnung legt Anbietern und Betreibern von KI-Technologien bestimmte Pflichten auf und regelt die generelle Zulassung von KI-Systemen im EU-Binnenmarkt.

Die KI-Verordnung befasst sich dabei mit den Risiken bestimmter KI-Anwendungen und teilt diese in vier Risikostufen ein und sieht entsprechend unterschiedliche Regelungen für die jeweiligen Akteure vor.

Es wird davon ausgegangen, dass die meisten KI-Systeme sind unbedenklich sind. KI-gestützte Spiele oder Spamfilter sind uneingeschränkt nutzbar. Sie werden von der KI-Verordnung der EU nicht reguliert oder beeinträchtigt.

Für KI-Systeme mit begrenztem Risiko wie Chatbots oder KI-Systeme, die Inhalte wie Texte, Bilder oder Videos generieren, gelten bestimmte Transparenzpflichten.

Bei den Hochrisiko-KI-Systemen sind strenge Prüfverfahren, Transparenz und menschliche Überwachung vorgesehen. Systeme wie zur Krankheitsdiagnose, zum autonomen Fahren oder zur biometrischen Identifizierung Verdächtiger unterliegen strengen Auflagen, um für den EU-Markt zugelassen zu werden.

Der Einsatz von KI-Systemen, die eine Bedrohung für die Sicherheit, die Rechte oder die Lebensgrundlagen der Menschen darstellen, ist in der EU verboten. Untersagt sind unter anderem Verhaltensmanipulation, Predictive Policing, Emotionserkennung in sensiblen Bereichen sowie Sozialkreditsysteme. Auch biometrische Echtzeitüberwachung im öffentlichen Raum ist, mit wenigen Ausnahmen, untersagt.

Nach Art 4 KI-VO sind die Anbieter und Betreiber von KI‑Systemen nun verpflichtet, Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen unter der Berücksichtigung ihrer technischen Kenntnisse, Erfahrung, Ausbildung und Schulung und dem jeweiligen Kontext und Personen(gruppen), in dem die KI-Systeme eingesetzt werden sollen. Diese Schulungspflicht ist nicht begrenzt auf bestimmte Risikostufen der KI-Systeme, es betrifft sie alle.

In Art. 3 Nr. 56 KI-VO wird die geforderte „KI-Kompetenz“ näher definiert als Fähigkeit, Kenntnis und Verständnis KI-Systeme sachkundig zu verwenden im Bewusstsein ihrere Chancen, Risiken und möglicher Schäden.

Ab dem 02.02.2025 ist Unternehmern daher geraten, ihre interne Strukturen zu überprüfen und Maßnahmen zu etablieren, die eine gezielte und abgestimmte Entwicklung der Kompetenzen ihrer Mitarbeitenden sicherstellen. Insbesondere sollten Qualifizierungsmaßnahmen identifiziert, geplant und umgesetzt werden und fortlaufend an den persönlichen und tatsächlichen Bedarf anzupassen.

KI hat sich in den letzten Jahren zu einer Schlüsseltechnologie entwickelt und ist mittlerweile nicht mehr wegzudenken. Unternehmen, die diese Entwicklung annehmen und angemessen in die Entwicklung der Kompetenzen ihrer Mitarbeitenden investieren, profitieren in mehrfacher Hinsicht: Sie minimieren nicht nur potenzielle gesetzliche Risiken im Hinblick auf neue Anforderungen, sondern verschaffen sich zugleich einen strategischen Vorsprung im Wettbewerb.

Autorin: Luise Klufmöller LL.M. (Rechtsanwältin | Fachanwältin für Urheber- und Medienrecht | Fachanwältin für gewerblichen Rechtsschutz)