Datenschutz bei KI-Telefonassistenten

Kaum eine Woche vergeht ohne neue Meldungen über KI. Und was heute aktuell ist, kann vier Wochen später schon als veraltet gelten. Besonders im Fokus sind derzeit KI-Telefonassistenten, die Entlastung des Teams, effizientere Arbeitsprozesse und professionelle Erreichbarkeit rund um die Uhr versprechen.

Doch bevor Unternehmen den neuen Assistenten voreilig „einstellen", gilt es einen entscheidenden Aspekt nicht zu übersehen: den Datenschutz. Denn die KI zeichnet auf, transkribiert, analysiert und gibt in manchen Fällen Daten weiter. Je nach Anwendungsart des Modells müssen daher klare datenschutzrechtliche Anforderungen geprüft und eingehalten werden.

Typische Einsatzbereiche sind Banken, etwa bei Anfragen zu Karten oder PIN, sowie Arztpraxen, beispielsweise zur Terminvereinbarung. Gerade dort, wo besonders sensible Daten von Geheimnisträgern wie Ärzten, Rechtsanwälten oder auch Sozialträgern verarbeitet werden, ist besondere Vorsicht geboten, wie je nach Art der Daten unterschiedliche Konsequenzen eintreten können.

Aber auch Autowerkstätten und Zubehörgeschäfte setzen zunehmend auf täuschend echt klingende KI-Assistenten, etwa für die Buchung eines Reifenwechsels. Moderne Systeme erkennen dabei Nuancen und reagieren gezielt auf Detailfragen, die der Kunde im Gespräch äußert.

Wer mit einer KI telefoniert, ist datenschutzrechtlich Betroffener und muss darüber informiert werden. Unabhängig davon, wie menschlich der Assistent klingt, bleibt es eine automatisierte Kommunikation. Daher muss zu Gesprächsbeginn ausdrücklich darauf hingewiesen werden, dass der Anrufer mit einem KI-Telefonassistenten spricht. Wenn das KI-Modell Daten zum KI-Training verwendet, muss vor dem Gespräch eine Einwilligung eingeholt werden, und dem Anrufer die Möglichkeit gegeben werden, das Gespräch abzulehnen und stattdessen mit einem menschlichen Ansprechpartner zu sprechen. Ein Hinweis auf die Datenschutzerklärung ist ebenfalls verpflichtend.

Ohne Einverständnis kann dies nicht nur datenschutzrechtliche, sondern auch strafrechtliche Konsequenzen haben. Die unbefugte Aufzeichnung des nicht öffentlich gesprochenen Wortes kann einen Verstoß gegen § 201 StGB bedeuten. Datenschutzrechtlich ist zumindest eine Rechtsgrundlage erforderlich und es muss im Einzelfall beurteilt werden, ob die eingesetzte Technik eine Einwilligung erforderlich macht.

Ein sogenannter Auftragsverarbeitungsvertrag (AVV) wird in Regel vom KI-Anbieter bereitgestellt, kann aber auch Ihrerseits als Unternehmen bzw. von Ihrem Datenschutzbeauftragten erstellt werden. Dabei wird im Einzelnen geregelt, wie die Verarbeitung mittels KI-Assistenz ausgestaltet ist und welche Daten wie und wo verarbeitet werden. Ein AVV ist gesetzliche Pflicht. Auch wenn Ihr Unternehmen den Assistenten selbst entwickelt oder anbietet, sind Sie verpflichtet, Datenschutz-Verträge zu schließen.

Art. 22 Abs. 1 DSGVO schützt Personen davor, ausschließlich auf Basis automatisierter Verarbeitung, einschließlich Profiling, einer Entscheidung unterworfen zu werden, die rechtliche oder ähnlich erhebliche Wirkungen entfaltet. Im arbeitsrechtlichen Kontext bedeutet das konkret, dass KI-Assistenten nicht eigenständig über Kündigungen, Bewerbungsablehnungen oder, nach überwiegender Auffassung, über Weisungen entscheiden dürfen. Selbst bei einer KI-gestützten Vorauswahl muss stets eine echte Person die Letztentscheidung treffen.

Wer KI-Telefonassistenten datenschutzkonform einsetzen möchte, sollte folgende Punkte beachten. 

• Zunächst ist Transparenz oberstes Gebot: Der Anrufer muss von Beginn an wissen, dass er mit einer KI spricht und je nach Anwendungsbereich kann eine Einwilligung erforderlich sein.
• Grundsatz der Datenminimierung: Darüber hinaus sollten nur solche Daten erhoben werden, die für den jeweiligen Service tatsächlich erforderlich sind.
• Die Datenschutzerklärung ist entsprechend zu aktualisieren und ein Auftragsverarbeitungsvertrag mit dem KI-Anbieter abzuschließen.
• Schließlich empfiehlt es sich, die Mitarbeiter im Umgang mit KI-gestützten Systemen zu schulen und den Datenschutzbeauftragten frühzeitig einzubinden.

Wenn Sie Unterstützung bei der Umsetzung möchten oder sich fragen, ob Sie nach Implementierung des KI-Assistenten datenschutzkonform sind, beraten wir Sie gerne zu all Ihren Fragen.

Autorin: Yana Madorskaya