Der Bot, der Facharzt werden wollte

Der 2. August 2026 ist der Tag, an dem die KI-Verordnung nach zwei Jahren Anlauf endlich richtig gilt. Und weil Europa Sinn für Dramaturgie hat, wurde sechs Tage vorher noch einmal am Fahrplan geschraubt. Wer daraus geschlossen hat, das Thema habe sich vertagt, wird in den nächsten Monaten überrascht. Acht Punkte, die Sie kennen sollten.

Die Schlagzeile des Sommers lautete: „EU verschiebt die KI-Regeln.“ Sie ist ungefähr so zutreffend wie die Aussage, ein Zug fahre nicht, weil der Speisewagen fehlt. Verschoben wurde genau ein Teil, nämlich die Pflichten für Hochrisiko-Anwendungen: Systeme etwa in der Bewerberauswahl, der Personalbewertung oder der Kreditwürdigkeitsprüfung müssen erst ab dem 2. Dezember 2027 den vollen Anforderungskatalog erfüllen, produkteingebettete Systeme ab August 2028. Der Grund war unromantisch: Die technischen Normen, gegen die man prüfen müsste, waren nicht fertig.

Alles andere gilt. Die Verbote gelten seit Februar 2025, die Pflichten für die großen Basismodelle seit August 2025, die Transparenzpflichten seit dem 2. August 2026. Der Trost für die Praxis: Sie haben 16 Monate gewonnen. Der Haken: Das Pflichtenprogramm selbst ist unverändert geblieben. Wer die Zeit als Pause liest statt als Umsetzungsfenster, steht Ende 2027 vor demselben Berg – nur mit deutlich weniger Beratern am Markt, die dann noch Kapazität haben.

Seit dem 2. August 2026 gilt: Wer mit einem KI-System unmittelbar interagiert, muss das erfahren. Ohne Übergangsfrist, ohne Bagatellgrenze. Betroffen sind Chatbots auf der Website, Voicebots in der Telefonanlage, KI-gestützte Beratungsassistenten in Apps und Portalen. Die gute Nachricht: Ein Satz genügt. Die schlechte: Er muss dort stehen, wo das Gespräch beginnt, und nicht in den verlinkten Nutzungsbedingungen zwischen Absatz sieben und der Widerrufsbelehrung.

Dazu kommt die Kennzeichnung KI-erzeugter Inhalte. Für Systeme, die schon vor August im Einsatz waren, läuft die Frist bis zum 2. Dezember 2026. Das ist ein guter Zeitpunkt, um die Marketingabteilung zu fragen, welche der Produktbilder eigentlich fotografiert wurden.

Und weil das oft unterschätzt wird: Der erste Brief zu einem fehlenden Hinweis kommt erfahrungsgemäß nicht von einer Behörde, sondern von einem Wettbewerber. Kennzeichnungspflichten lassen sich als Marktverhaltensregelungen abmahnen, und Abmahnungen brauchen keinen Behördenapparat, sondern nur einen aufmerksamen Anwalt mit einer Suchmaschine.

Damit zum Fall des Sommers. Eine Klinik für minimalinvasive Schönheitsbehandlungen setzte auf ihrer Website einen KI-Chatbot ein, der Fragen beantworten und Termine vereinbaren sollte. Auf die Frage nach den Qualifikationen der Geschäftsführer antwortete der Bot bereitwillig, es handele sich um Fachärzte für plastische und ästhetische Chirurgie. Das war unzutreffend. Zwei der genannten Bezeichnungen waren darüber hinaus so großzügig erfunden, dass es sie im deutschen Weiterbildungsrecht überhaupt nicht gibt.

Das Oberlandesgericht Hamm hat dazu am 12. Mai 2026 entschieden (Az. 4 UKl 3/25, nicht rechtskräftig, Revision zum BGH zugelassen): Ein Chatbot ist im Wettbewerbsrecht kein Dritter, dessen Aussagen man nur beaufsichtigen müsste. Er ist ein Werkzeug des Unternehmens – und was das Werkzeug sagt, sagt das Unternehmen. Das Argument, generative Systeme seien eine unkontrollierbare Blackbox, hat der Senat ausdrücklich verworfen. Auch der beliebte Hinweis, KI könne Fehler machen, schützt nicht zuverlässig. Kurz darauf hat das Landgericht München I in dieselbe Richtung entschieden und einem Suchmaschinenbetreiber untersagt, bestimmte Aussagen über zwei Verlage in seinen KI-Übersichten zu verbreiten (Urteil vom 28. Mai 2026, Az. 26 O 869/26, ebenfalls nicht rechtskräftig).

Die Lehre daraus ist unspektakulär und teuer: Behandeln Sie Ausgaben Ihrer KI wie Aussagen Ihrer Mitarbeitenden. Ein Bot, der über Qualifikationen, Preise, Fristen, Zulassungen oder Leistungsumfänge spricht, braucht denselben Freigabeprozess wie eine Broschüre. Und er braucht jemanden, der gelegentlich nachfragt, was er eigentlich so erzählt.

Deutschland hat die Frist zur Benennung der zuständigen Behörden um knapp ein Jahr überzogen und Ende Juli 2026 nachgeliefert. Zuständig ist nun im Grundsatz die Bundesnetzagentur – dieselbe Behörde, die Ihnen bisher Funkfrequenzen zugeteilt und die Briefzustellung beobachtet hat, prüft künftig auch Ihre Bewerbungssoftware. Sektorale Zuständigkeiten bleiben daneben bestehen, ebenso die Datenschutzaufsicht. Bei einem KI-System mit Personenbezug können Sie es also mit zwei Behörden parallel zu tun bekommen, die sich untereinander erst noch abstimmen müssen.

Ein echter Pluspunkt ist versteckt: Bei der Bundesnetzagentur entsteht ein Koordinierungs- und Kompetenzzentrum mit einem kostenfreien Service-Desk, ausdrücklich auch für kleinere Unternehmen. Behördliche Auskünfte sind kein Ersatz für eine Bewertung, aber sie sind ein brauchbarer Gradmesser dafür, wie eng die Aufsicht eine Frage sieht.

Die Pflicht, für ausreichende KI-Kompetenz der Beschäftigten zu sorgen, gilt seit Februar 2025. Sie wurde im Sommer entschärft: Statt sicherzustellen, dass jede einzelne Person ein bestimmtes Niveau erreicht, müssen Unternehmen die Kompetenz nunmehr fördern. Regulatorisch ist das ein Wechsel vom Zwang zum Zureden.

Praktisch ändert es wenig. Wer Beschäftigte ohne Einweisung mit generativer KI arbeiten lässt, hat weiterhin ein Problem – nur eben aus anderen Vorschriften: aus der Pflicht zu angemessenen Sicherheitsmaßnahmen im Datenschutz, aus der Sorgfaltspflicht der Geschäftsleitung und, wie der Fall aus Hamm zeigt, aus dem Wettbewerbsrecht. Der günstigste Zeitpunkt für eine Schulung war vor achtzehn Monaten. Der zweitgünstigste ist jetzt, und diesmal mit Teilnehmerliste. (MKM LEGAL bietet eine solche Schulung übrigens auch an.)

Eine Ebene tiefer wird es persönlich. Die Geschäftsleitung schuldet dem Unternehmen eine Organisation, die Rechtsverstöße verhindert — und wer Beschäftigten Werkzeuge in die Hand gibt, die Verträge auslegen, Bewerbungen sortieren und Kunden Auskunft geben, ohne Einweisung, Regeln und Freigabeprozess, hat kein KI-Problem, sondern ein Organisationsproblem. Das Ordnungswidrigkeitengesetz hält für die verletzte Aufsichtspflicht noch ein eigenes Bußgeld bereit.

Der Trend des Jahres sind Assistenten, die auf dem eigenen Dokumentenbestand arbeiten. Datenschutzrechtlich ist das eine erfreuliche Entwicklung, und die Aufsichtsbehörden sagen das im Oktober 2025 sogar selbst: Angaben in den Referenzdokumenten lassen sich korrigieren und löschen, Zugriffsrechte lassen sich steuern, Auskunft und Berichtigung werden wieder handhabbar – anders als bei Informationen, die tief im Modell stecken.

Es gibt allerdings einen Nebeneffekt, der in jedem zweiten Projekt auftritt. Ein solcher Assistent findet zuverlässig alles, worauf er zugreifen darf. Und er ist dabei so höflich, keine Rückfragen zu stellen. Wenn also die Gehaltsübersicht seit 2019 in einem Ordner liegt, dessen Berechtigungen niemand mehr geprüft hat, dann wird sie gefunden – zum ersten Mal von jemandem, der nicht durch Zufall im falschen Verzeichnis gelandet ist, sondern gezielt gesucht hat. Der Assistent ist in diesen Fällen kein Datenleck. Er ist ein Zeuge. Vor der Freigabe gehört deshalb die Berechtigungsbereinigung in den Quellsystemen auf die Liste, und zwar davor, nicht danach.

Zum Schluss ein Risiko, das in den Leitfäden noch kaum vorkommt und in Kanzleien, Personalabteilungen und Einkauf gleichermaßen relevant ist. Sprachmodelle unterscheiden nicht zuverlässig zwischen einer Anweisung ihres Nutzers und dem Inhalt eines Dokuments, das sie gerade lesen. Wer also einen fremden Vertragsentwurf, eine Bewerbung oder einen Schriftsatz in ein KI-Werkzeug lädt, lädt gelegentlich auch Anweisungen mit, die nicht für ihn geschrieben wurden.

Das klingt nach Science-Fiction und ist inzwischen Alltag. Die Auswirkungen reichen von der Zusammenfassung, die eine unangenehme Klausel taktvoll übersieht, bis zum Abfluss von Informationen, wenn das System auch versenden oder auf andere Systeme zugreifen darf. Drei Regeln reichen für den Anfang weit:

• Fremde Dokumente nie in Anwendungen verarbeiten, die selbstständig versenden, speichern oder auf andere Systeme zugreifen können.
• Keine automatischen Folgeaktionen aus Dokumenteninhalten – Freigabe bleibt beim Menschen.
• Rechtlich entscheidende Passagen immer gegen das Original lesen. Die Zusammenfassung ist ein Wegweiser, kein Ersatz für die Lektüre.

Ein verbreitetes Missverständnis muss noch weg: Das große Reformpaket, das die Datenschutz-Grundverordnung an mehreren Stellen für KI öffnen soll – unter anderem mit einer ausdrücklichen Grundlage für das Training –, ist nicht verabschiedet. Nur der Teil zur KI-Verordnung ist durch. Für die DSGVO gilt daher weiterhin: Jeder Verarbeitungsschritt braucht eine eigene Grundlage, die Abwägung ist im Einzelfall zu führen und zu dokumentieren, und die Nutzung Ihrer Eingaben zum Training des Anbieters sollte vertraglich und in der Konfiguration abgeschaltet sein. Wer Berufsgeheimnisse verarbeitet – Ärzte, Kanzleien, Steuerberater und deren Dienstleister –, hat zusätzlich strafrechtliche Anforderungen zu erfüllen, für die ein Auftragsverarbeitungsvertrag allein nicht genügt.

Erwähnt sei auch die unangenehmste Entwicklung des Jahres, die mit Regulierung nichts zu tun hat: Angreifer nutzen dieselben Werkzeuge. Der Anruf des Geschäftsführers, der dringend eine Überweisung braucht, klingt inzwischen exakt wie der Geschäftsführer. Technische Abwehr hilft hier wenig; was hilft, sind Prozesse, die ohne Vertrauen in eine Stimme funktionieren – und ein Blick in die Cyber-Police, ob dieser Fall gedeckt ist.

Wir begleiten die Einführung von KI-Anwendungen von der Auswahl über die Verträge mit dem Anbieter bis zur Folgenabschätzung und der internen Richtlinie – und prüfen kundengerichtete Systeme zugleich auf wettbewerbsrechtliche Risiken, weil dort die ersten Auseinandersetzungen entstehen. Für Fragen zu einer konkreten Anwendung sprechen Sie uns gern an.

Stand: 3. August 2026. Dieser Beitrag gibt einen Überblick und ersetzt keine Prüfung des Einzelfalls. Die genannten Entscheidungen des OLG Hamm und des LG München I sind nicht rechtskräftig.

Autor: Thilo Märtin, Rechtsanwalt