KI im Kundenservice: Kunden-E-Mails mit einem Assistenten beantworten und Chatbots einsetzen

Welche zwei Fälle gibt es im Kundenservice?

Es sind zwei Fälle, die unterschiedlich geregelt sind: Im ersten nutzen Mitarbeitende einen Assistenten, um Antworten zu entwerfen; die Kundschaft merkt davon nichts. Im zweiten spricht ein Chatbot selbst mit der Kundschaft. Im ersten Fall stehen Rechtsgrundlage, Vertrag und Datenminimierung im Vordergrund. Im zweiten Fall kommen Transparenz, Information der Betroffenen und die Grenzen automatisierter Entscheidungen hinzu. Dieser Ratgeber trennt beide. Für die Grundfrage, welche Kundendaten überhaupt in einen Assistenten dürfen, lesen Sie ergänzend Kundendaten in ChatGPT eingeben.

Teil 1: Darf ein Assistent Antworten auf Kunden-E-Mails entwerfen?

Das kann zulässig sein, wenn die Rechtsgrundlage, der Vertrag mit dem Anbieter und die Datenminimierung stimmen. Eine pauschale Zusage lässt sich nicht geben. Was geprüft werden muss, folgt aus den Papieren der Aufsichten.

Rechtsgrundlage

Der Landesbeauftragte für den Datenschutz Baden-Württemberg beschreibt in seinem Diskussionspapier ein „Doppeltürmodell“: Anbieter und Nutzer brauchen jeweils eine eigene Rechtsgrundlage. Art. 6 Abs. 1 lit. b DSGVO (Vertrag) deckt demnach in der Regel nicht Daten Dritter ab, die in Prompts eingegeben werden. Art. 6 Abs. 1 lit. f (berechtigtes Interesse) verlangt eine dreistufige Prüfung und Datenminimierung.^[1] Die Datenschutzkonferenz hält fest, dass für jeden Verarbeitungsschritt mit personenbezogenen Daten in einer KI-Anwendung eine Rechtsgrundlage nötig ist.^[2]

Für den Kundenservice heißt das: Dokumentieren Sie, auf welche Grundlage Sie sich stützen, und begründen Sie, warum die Aufgabe die Daten braucht. Ein Antwortentwurf zu einer Beschwerde braucht oft nur den Sachverhalt, nicht den Klarnamen.

Tarif und Vertrag

Für betriebliche personenbezogene Daten kommt ein Geschäftstarif mit Auftragsverarbeitungsvertrag eher in Betracht als ein privates Konto. Art. 28 DSGVO verlangt, dass der Auftragsverarbeiter nur auf dokumentierte Weisung verarbeitet.^[4] Die Datenschutzkonferenz empfiehlt außerdem, Dienstkonten bereitzustellen und die Einstellungen so zu wählen, dass Eingaben nicht zum Training genutzt werden.^[2] Welche Tarife welche Zusagen machen, steht in den Ratgebern zu ChatGPT, Claude und Gemini.

Pseudonymisieren vor dem Senden

Die Datenschutzkonferenz schreibt, dass das Entfernen von Namen und Adressen regelmäßig nicht reicht, weil der Kontext weiter identifizieren kann.^[2] Ersetzen Sie deshalb auch Bestell-, Kunden- und Vertragsnummern und eindeutige Angaben. Pseudonymisierte Daten bleiben für Sie personenbezogene Daten, weil Sie den Schlüssel halten. Das Beispiel zeigt eine erfundene Beschwerde vor und nach dem Ersetzen.

Zwei Punkte im Beispiel: Die Angabe zum Krankenhausaufenthalt des Ehemanns ist eine Gesundheitsangabe über eine dritte Person; sie wurde entfernt, weil die Antwort sie nicht braucht (siehe Teil 2 zu besonderen Kategorien). Und das Lieferdatum bleibt stehen, weil es die Aufgabe braucht; zusammen mit anderen Angaben könnte es in kleinen Kundenkreisen dennoch identifizieren. Prüfen Sie den ersetzten Text deshalb selbst, bevor Sie ihn senden. Eine automatische Erkennung findet nicht alles; wer ein Werkzeug dafür nutzt, sollte jeden Treffer prüfen und den Text vor dem Senden lesen. Eine Schritt-für-Schritt-Anleitung steht in Daten für ChatGPT pseudonymisieren.

Prüfung der Antwort durch einen Menschen

Der Entwurf ist ein Entwurf. Die Hamburger Aufsicht nennt in ihrer Checkliste die Prüfung der Ergebnisse und, dass Menschen entscheiden.^[3] Im Kundenservice heißt das: Die Mitarbeiterin liest die Antwort, setzt die echten Daten wieder ein, prüft Zusagen (Erstattung, Fristen, Kulanz) und ob die Antwort zum Fall passt, bevor sie sie versendet.

Teil 2: Was gilt, wenn ein Chatbot mit Kunden spricht?

Hier sind Sie nicht mehr Nutzer eines Werkzeugs, sondern bieten Kunden ein KI-System an. Drei Regelwerke greifen ineinander: die KI-Verordnung, die Informationspflichten der DSGVO und die Grenzen automatisierter Entscheidungen.

Transparenz nach Art. 50 Abs. 1 KI-Verordnung

Nach dem Wortlaut müssen Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, sicherstellen, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist aus Sicht einer angemessen informierten, aufmerksamen und umsichtigen Person unter Berücksichtigung der Umstände und des Nutzungskontexts offensichtlich.^[8] Die Pflicht richtet sich also ausdrücklich an den Anbieter des Systems. Wer einen Chatbot einkauft und unter eigener Prüfung betreibt, sollte klären, ob er nach der Verordnung als Anbieter oder als Betreiber gilt; das hängt vom Aufbau ab und ist hier nicht abschließend zu beantworten. Die Transparenzregeln gelten ab dem 2. August 2026 (Zeitplan der Kommission).^[9] Unabhängig davon spricht viel dafür, den Hinweis „Sie schreiben mit einer KI“ zu Beginn des Chats zu zeigen und einen Weg zu einer Person anzubieten. Zu den weiteren Pflichten nach der Verordnung: KI-Verordnung: Pflichten für Unternehmen.

Informationspflichten nach Art. 13 DSGVO

Erheben Sie personenbezogene Daten direkt bei den Kundinnen und Kunden, nennt Art. 13 DSGVO, was Sie mitteilen müssen: Identität und Kontaktdaten des Verantwortlichen, Zwecke und Rechtsgrundlage, Empfänger oder Kategorien von Empfängern, mögliche Übermittlung in ein Drittland samt Angabe, ob ein Angemessenheitsbeschluss besteht, die Speicherdauer oder die Kriterien dafür sowie die Betroffenenrechte einschließlich des Beschwerderechts bei einer Aufsichtsbehörde.^[5] Beim Chatbot kann der Anbieter des Modells zu den Empfängern gehören, die Sie nennen müssen; prüfen Sie das für Ihren Aufbau. Zeigen Sie die Hinweise am Beginn des Chats oder verlinken Sie sie dort.

Automatisierte Entscheidungen nach Art. 22 DSGVO

Betroffene haben das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich auf automatisierter Verarbeitung beruht und ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Es gibt Ausnahmen, etwa wenn die Entscheidung für einen Vertrag erforderlich ist, durch Rechtsvorschriften zugelassen ist oder auf ausdrücklicher Einwilligung beruht; in den Vertrags- und Einwilligungsfällen muss der Verantwortliche Schutzmaßnahmen treffen, darunter das Recht auf Eingreifen einer Person.^[6] Wo Art. 22 greift, kommen aussagekräftige Informationen zur Logik nach Art. 13 Abs. 2 lit. f hinzu.^[5] Die Datenschutzkonferenz fordert für Entscheidungen mit rechtlicher Wirkung, dass der Mensch echten Entscheidungsspielraum hat; eine bloß formale Beteiligung reicht nicht.^[2] Ob ein Bot unter Art. 22 fällt, hängt davon ab, ob er Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung trifft. Bei einem Bot, der Erstattungen bewilligt oder ablehnt, ist das zu prüfen; bei reinen Auskünften eher nicht, aber auch das ist eine Einzelfallfrage.

Keine besonderen Kategorien im Bot

Gesundheitsdaten und weitere Daten nach Art. 9 Abs. 1 DSGVO (etwa Angaben zu religiösen Überzeugungen oder zum Sexualleben) darf man grundsätzlich nur verarbeiten, wenn eine Bedingung des Art. 9 Abs. 2 greift.^[7] Im Kundenservice können sie unaufgefordert auftauchen, etwa bei Reklamationen („wegen meiner Erkrankung“). Planen Sie deshalb, dass der Bot solche Angaben nicht abfragt, bei einem Hinweis darauf an eine Person übergibt und sie nicht für weitere Zwecke speichert. Ob für Ihren Fall eine Bedingung nach Art. 9 Abs. 2 greift, ist eine Einzelfallfrage.

Welche Kundenservice-Aufgaben sind wie einzuordnen?

Die Tabelle ist eine Orientierung nach Art der Aufgabe, keine Freigabe. Entscheidend sind Ihre Rechtsgrundlage, Ihr Tarif und der konkrete Inhalt.

Wo landen Kundendaten, und was davon können Sie kontrollieren?

Nach dem Absenden sehen Sie nicht, wo ein Anbieter einen Tickettext verarbeitet, kopiert oder speichert. Sie haben die Dokumentation und den Vertrag, und deren Zusagen haben dokumentierte Ausnahmen. Ein europäischer Anbieter ist dabei nicht automatisch einer ohne Training: Mistral erlaubt sich in seinem Auftragsverarbeitungsvertrag, Daten als Verantwortlicher zum Training zu verarbeiten, sofern der Kunde nicht widersprochen hat; einen Hosting-Ort nennen die gelesenen Passagen nicht.^[10] Bei Anbietern in den USA hängt die Übermittlung am EU-US Data Privacy Framework: Das Gericht der EU hat die Klage gegen den Angemessenheitsbeschluss im September 2025 abgewiesen,^[11] ein Rechtsmittel ist anhängig.^[12] Hinzu kommt die Kette weiterer Auftragsverarbeiter, die Art. 28 Abs. 2 und 4 DSGVO erlaubt.^[4] Was einmal gesendet wurde, lässt sich nicht zurückholen.

Mit eigenen Mitteln steuern Sie nur, was Ihr Gerät verlässt: Namen, Kundennummern und Adressen weglassen oder ersetzen, wo die Antwort sie nicht braucht, wie es der Grundsatz der Datenminimierung beschreibt.^[13] Das ersetzt weder Rechtsgrundlage noch Vertrag noch die menschliche Prüfung, und automatische Erkennung findet nicht alles. Ainym ist ein Beispiel dafür: eine Browser-Erweiterung in geschlossener Beta, die erkannte personenbezogene Angaben auf dem eigenen Gerät anzeigt, vor dem Absenden von den Nutzenden bestätigen lässt und durch Pseudonyme ersetzt. Mehr dazu im Beitrag Wo landen Ihre Daten bei KI-Anbietern, und was können Sie kontrollieren?

Was sollte ein Kundenservice jetzt tun?

1. Fall trennen. Entwurfs-Assistent und Kunden-Chatbot getrennt bewerten und dokumentieren. Verantwortlich: Leitung Kundenservice, Datenschutz.
2. Rechtsgrundlage festhalten. Zweck, Grundlage und Begründung für beide Fälle schriftlich ablegen.^[1] Verantwortlich: Datenschutz.
3. Geschäftstarif und Vertrag sichern. Dienstkonten statt privater Konten, Training abschalten oder durch den Tarif ausgeschlossen, Vertrag nach Art. 28 ablegen.^[2][4] Verantwortlich: IT, Datenschutz.
4. Pseudonymisierung als Routine. Vorlage mit Platzhaltern und kurze Schulung; jede Antwort wird vor dem Versand geprüft. Verantwortlich: Teamleitung.
5. Bot-Hinweise bauen. KI-Hinweis, Datenschutzhinweis nach Art. 13, Übergabe an eine Person. Verantwortlich: Produkt, Datenschutz.
6. Entscheidungen abgrenzen. Welche Antworten des Bots haben rechtliche oder ähnlich erhebliche Wirkung? Dafür Art. 22 prüfen. Verantwortlich: Leitung Kundenservice, Recht.
7. Regeln und Schulung. Eine Vorlage bietet die KI-Richtlinie als Muster; beim Betriebsrat anfragen. Verantwortlich: Geschäftsleitung.

Der Text ist allgemeine Information, keine Rechtsberatung. Die Auslegung der Rollen nach der KI-Verordnung und der Grenzen des Art. 22 hängt vom Einzelfall ab; holen Sie dafür fachliche Beratung ein. Anbieterangaben ändern sich oft, und Fristen der KI-Verordnung wurden zuletzt angepasst: Prüfen Sie die Zeitplan-Seite der Kommission am Tag Ihrer Entscheidung. Den Überblick über die Einführung im Unternehmen gibt KI im Unternehmen: Datenschutz Schritt für Schritt.

Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung. Er ersetzt nicht die Prüfung Ihres Einzelfalls durch Ihre Datenschutzbeauftragte, Ihren Datenschutzbeauftragten oder eine Rechtsberatung. Stand: 13. November 2026.