CRM Fabrik Projekt besprechen
Menü

CRM-Ratgeber

KI im CRM und Datenschutz

KI kann im CRM eine E-Mail zusammenfassen, einen Vorgang vorschlagen oder eine Rückfrage vorbereiten. Legen Sie fest, welche Daten das Modell dafür braucht, wo die Verarbeitung stattfindet und welche Aktionen eine Person freigibt.

Herausgeber
AI Atelier GmbH
Stand

Den Datenweg einer einzelnen Aufgabe abbilden

Zeichnen Sie für eine Beispielaufgabe den Weg vom Eingang bis zur Übergabe. Erfassen Sie neben der CRM-Datenbank auch Anhänge, Modellaufrufe, Protokolle und Backups. Legen Sie fest, wer auf welchen Teil zugreifen darf.

Eingang begrenzen
Ein Modell, das Artikelnummern aus einer Bestellung ausliest, braucht häufig nur den relevanten Textausschnitt. Prüfen Sie, welche Namen und Anhänge sich vorher ausnehmen lassen.
Hosting einzeln prüfen
CRM, Dateispeicher und Modell können in unterschiedlichen Umgebungen laufen. Halten Sie den tatsächlichen Datenweg fest und prüfen Sie, ob ein eigener Modellbetrieb zur Aufgabe passt.
Freigabe sichtbar machen
Das Team sieht Vorschlag und Quelle nebeneinander. Eine Freigabe oder Korrektur bleibt am Vorgang nachvollziehbar.

Was vor dem Pilot geklärt sein sollte

Die technische Planung hilft, Fragen zu Zweck, Zugriff und Aufbewahrung konkret zu beantworten. Die datenschutzrechtliche Bewertung erfolgt anhand Ihres Einsatzes. Ein Hosting-Standort beantwortet für sich allein weder Fragen zur Rechtsgrundlage noch zu weiteren beteiligten Diensten.

Zweck und Datenumfang
Dokumentieren Sie, für welche Aufgabe personenbezogene Daten verarbeitet werden und welche Angaben dafür nötig sind.
Auftragsverarbeitung und Sicherheit
Klären Sie Rollen, gegebenenfalls den Vertrag zur Auftragsverarbeitung sowie technische und organisatorische Maßnahmen mit Ihren Verantwortlichen.
Besondere Daten
Bei Gesundheitsdaten oder anderen besonders geschützten Daten muss die Prüfung vor dem Einsatz erfolgen. Planen Sie die ersten Tests mit synthetischen oder geeigneten anonymisierten Daten.

Beispiel für eine KI-Prüfung im Bestelleingang

Der Agent soll Artikelnummer und Menge aus einer Bestellung vorschlagen. Das Original bleibt in einem geschützten Bereich. Das Team sieht die Textstelle, aus der ein Vorschlag stammt, und prüft ihn vor der Übergabe.

Im Testdatensatz
Ersetzen Sie Firmen, Kontaktdaten und Bestellnummern durch fiktive Werte. Verwenden Sie realistische Formate und Fälle mit einer fehlenden Mengenangabe.
Beim Modellaufruf
Prüfen Sie, ob ein Ausschnitt mit Artikel und Menge genügt. Dokumentieren Sie Modellbetreiber, Verarbeitungsort und welche Eingaben im Protokoll erscheinen.
Vor der Freigabe
Testen Sie zwei Rollen. Die zuständige Person muss den Vorschlag mit Quelle prüfen können. Eine Rolle ohne Zugriff auf den Vorgang darf weder Original noch Vorschlag aufrufen.

Einen KI-Ablauf auf Daten und Rechte prüfen

Beispiel für den Datenweg einer Bestellanfrage
SchrittInformationPrüfung vor dem Pilot
PostfachOriginal mit Absender und AnlageZugriff nur für zuständige Rollen. Original und Arbeitskopie unterscheiden.
KI-AuswertungAusschnitt mit Artikel und MengeDatenumfang, Verarbeitungsort und Protokolle prüfen.
FreigabeVorschlag und zugehörige TextstelleBerechtigte Person bestätigt die Position. Offene Angaben bleiben sichtbar.

Jeden technischen Schritt einzeln betrachten

Zeichnen Sie einen konkreten Vorgang auf, etwa eine E-Mail mit einem Bestell-PDF. Beginnen Sie beim Eingang und gehen Sie bis zur Freigabe. Notieren Sie je Schritt, welche Daten kopiert, verarbeitet und gespeichert werden und wer sie sehen kann. Zu den Stationen gehören auch OCR, Modellaufrufe, Zwischenspeicher, technische Protokolle und Sicherungen. Für die Bestellprüfung kann eine Positionsliste genügen. Die Signatur, Telefonnummer oder ein zweiter Anhang werden nur einbezogen, wenn der fachliche Schritt diese Daten braucht.

Halten Sie für CRM, Dateispeicher und Modell getrennt fest, wer den Dienst betreibt und wo die Verarbeitung stattfindet. Prüfen Sie auch die Support- und Administrationswege sowie weitere beteiligte Dienste. Bei Betrieb auf eigener Infrastruktur bleiben diese Aufgaben bei den dafür verantwortlichen Teams. Updates, Berechtigungen, Protokollierung und Backup müssen dort genauso eingeplant werden. Bei einer externen Verarbeitung gehört zur Prüfung, welche Daten laut Vertrag gespeichert werden, welche Unterauftragnehmer beteiligt sind und welche Einstellungen tatsächlich aktiv sind.

Den Agenten mit begrenzten Rechten betreiben

Beschreiben Sie für jede Funktion, was sie lesen, vorschlagen oder auslösen darf. Ein Agent, der eine Bestellposition vorbereitet, braucht normalerweise keinen Zugriff auf sämtliche Kundenakten und keinen eigenen Versandweg. Die Person am Vorgang sieht den Vorschlag neben der Quelle. Bei einem Konflikt zwischen Absender, Kundennummer und Lieferadresse bleibt der Fall offen. Die Fachkraft kann nachvollziehen, an welcher Textstelle der Agent die Information gefunden hat.

Eingehende Texte können Anweisungen enthalten, die mit der Aufgabe nichts zu tun haben. Testen Sie mit einem synthetischen Anhang, der das System auffordert, vertrauliche Daten auszulesen oder eine Aktion außerhalb des Vorgangs auszulösen. Die Anwendung muss die verfügbaren Aktionen unabhängig vom Modell begrenzen. Der Zugriff auf einen Datensatz und die Freigabe einer Übergabe sollten anhand der tatsächlichen CRM-Rolle geprüft werden. Einen solchen Negativtest braucht auch eine lokal betriebene Lösung, wenn sie externe Texte verarbeitet.

Fehler messen und die Auswirkung bewerten

Bereiten Sie zum Beispiel 30 synthetische Eingänge vor. 20 sind typische Vorgänge, fünf enthalten fehlende oder mehrdeutige Felder und fünf prüfen Schutzregeln und Berechtigungen. Halten Sie getrennt fest, wie oft der Vorschlag richtig war, wann der Agent eine Rückfrage angezeigt hat und ob eine unerlaubte Aktion möglich war. Eine richtige Extraktion in vielen einfachen Fällen ersetzt die Prüfung der Berechtigungen und der Fehlerfälle nicht. Legen Sie vor dem Test fest, welche Abweichungen den Start verhindern.

Prüfen Sie bei einer Freigabe auch, was im Protokoll steht. Für die Fehlersuche können Vorgangskennung, Zeitpunkt, verwendete Modellversion und Status genügen. Ob Eingabetexte oder Antwortinhalte aufgezeichnet werden dürfen und wie lange, muss für den konkreten Zweck geklärt werden. Bei einem neuen Modell oder einer geänderten Freigaberegel wiederholen Sie die kritischen Testfälle, bevor die Änderung für alle Teams verfügbar ist.

Verantwortung und Datenschutzprüfung zusammenführen

Führen Sie die Fragen für IT, Fachbereich und Datenschutz in einer kurzen Übersicht zusammen. Der Fachbereich benennt Zweck und nötige Felder. Die IT dokumentiert Zugriff, Betrieb und Verhalten bei Störungen. Die zuständige Datenschutzfunktion prüft anhand der tatsächlichen Verarbeitung unter anderem Rechtsgrundlage, Rollen, Verträge und gegebenenfalls weitere Pflichten. Die DSGVO behandelt Datenminimierung, besondere Kategorien, Auftragsverarbeitung und Sicherheit in unterschiedlichen Artikeln. Je nach Einsatz kann außerdem die Prüfung einer Datenschutz-Folgenabschätzung erforderlich sein.

Wenn der Vorgang Gesundheitsdaten enthält, beginnen Sie mit einem eng abgegrenzten administrativen Beispiel und geeigneten Testdaten. Legen Sie fest, wie eine falsche Zuordnung erkannt wird und wer über die Weiterverarbeitung entscheidet. Halten Sie in der Abnahme fest, ob Original, Vorschlag und Freigabe für die jeweils vorgesehenen Rollen nachvollziehbar sind. So hat das Team eine konkrete Grundlage für den Einsatz und für spätere Änderungen.

Häufige Fragen

Kann KI im eigenen Betrieb laufen?

Das lässt sich je nach Aufgabe und vorhandener Infrastruktur prüfen. Modellbetrieb, Protokollierung und Berechtigungen werden dabei separat betrachtet.

Den nächsten Schritt vorbereiten

Bringen Sie einen typischen Vorgang ins Erstgespräch. Wir klären in bis zu 30 Minuten, welche Variante sich für Ihren Betrieb prüfen lässt.

KI im CRM datenschutzkonform klären