Dsgvo konforme ki: Checkliste und rechtliche Pflichten 2026

Sie haben den KI-Telefonsetter gerade live geschaltet. Leads kommen rein, das Tool stellt Fragen, bucht Termine in Outlook oder Calendly und schreibt Gesprächsdaten ins CRM. Genau an diesem Punkt merken viele Teams, dass DSGVO-konforme KI nicht mit einem Häkchen bei „EU-Hosting“ erledigt ist, sondern mit sauberem Betrieb, klaren Rollen und belastbarer Dokumentation.

Warum DSGVO-konforme KI im Alltag mehr ist als ein Label

Der erste Fehler passiert oft schon im Vertrieb oder Recruiting. Ein KI-Agent nimmt den Anruf an, fragt Qualifikationsmerkmale ab, transkribiert das Gespräch und übergibt die Daten an HubSpot, bevor jemand intern sauber geklärt hat, wer worauf Zugriff hat und wie lange die Inhalte bleiben dürfen. In diesem Moment geht es nicht mehr um ein Tool, sondern um einen durchgängigen Datenfluss.

Praktische Regel: Wenn ein KI-System personenbezogene Daten hört, speichert, weiterleitet oder auswertet, braucht es denselben Governance-Blick wie jedes andere produktive Kernsystem.

Für deutsche KMU ist das Thema besonders operativ, weil die DSK in ihrer Orientierungshilfe vom 6. Mai 2024 klar macht, dass vor der Verarbeitung personenbezogener Daten eine Vorabprüfung des Risikos nach Art. 35 DSGVO nötig ist und dass bereits bei Inbetriebnahme so gewählt werden soll, dass keine Eingabedaten zu Trainingszwecken verarbeitet werden und keine Eingabe-Historie über die Sitzung hinaus gespeichert wird. Die Orientierungshilfe verknüpft damit Transparenz, Trainings-Ausschluss und dokumentierte Risikoprüfung als praktische Mindestlogik für den Einsatz von KI in Deutschland. DSK-Orientierungshilfe zu KI und Datenschutz

Was in der Praxis auf dem Tisch liegt

Bei einem Voice-AI-Use-Case müssen drei Fragen sofort beantwortet sein. Welche Daten werden im Gespräch überhaupt verarbeitet, auf welcher Rechtsgrundlage läuft das, und wo endet die Verarbeitung technisch. Ohne diese Antworten ist die Compliance-Diskussion zu abstrakt, um im Tagesgeschäft zu helfen.

Auch die organisatorische Seite ist nicht optional. Ein KI-Register, eine interne Richtlinie, die Prüfung der Risikoklasse und in vielen Fällen ein Auftragsverarbeitungsvertrag gehören dazu, wenn ein Anbieter Daten im Auftrag verarbeitet. Wer zusätzlich saubere Informationsseiten für Betroffene braucht, kann sich an den konkreten Datenschutzinformationen von Informationen zum Datenschutz orientieren, weil dort die Erwartung an klare Hinweise und nachvollziehbare Prozesse gut sichtbar wird.

Der operative Kern ist einfach, aber anspruchsvoll. DSGVO-konforme KI heißt nicht nur, dass ein System rechtlich irgendwie zulässig ist. Es heißt, dass jeder Schritt vom ersten Anruf bis zum CRM-Eintrag nachvollziehbar bleibt, dokumentiert ist und zur internen Verantwortung passt.

Rechtliche Grundlagen für den Einsatz von KI mit personenbezogenen Daten

Rechtsgrundlage, Transparenz und Auftragsverarbeitung

Wer dsgvo konforme ki im Unternehmen einführt, braucht zuerst eine belastbare Rechtsgrundlage nach Art. 6 DSGVO. Das gilt nicht nur für klassische CRM-Prozesse, sondern genauso für Live-Telefonie, Bewerberkommunikation und automatisierte Terminbuchung. Betroffene Personen müssen außerdem nachvollziehen können, dass eine KI beteiligt ist und welche Daten dabei verarbeitet werden.

Die zweite Ebene ist die Auftragsverarbeitung nach Art. 28 DSGVO. Sobald ein Anbieter Daten im Auftrag verarbeitet, braucht es vertragliche Klarheit über Zwecke, Weisungsbindung, Unterauftragnehmer und Löschlogik. Bei Voice-AI ist das kein Papierdetail, sondern die Grundlage dafür, dass Gesprächsdaten, Metadaten und Folgeaktionen nicht ungeordnet im System liegen bleiben.

Die DSK-Orientierungshilfe vom 6. Mai 2024 macht die Linie in Deutschland deutlich. Sie verlangt eine Vorabprüfung des Risikos nach Art. 35 DSGVO, eine Wahl des Betriebsmodus so, dass Eingaben nicht zu Trainingszwecken verarbeitet werden, und keine Speicherung der Eingabe-Historie über die Sitzung hinaus. Für deutsche Unternehmen prägt genau diese Auslegung die praktische Erwartung an Transparenz gegenüber betroffenen Personen, Trainings-Ausschluss und dokumentierte Risikoprüfung.

Die Rechtsfrage ist nicht nur „Dürfen wir KI einsetzen?“. Die eigentliche Frage lautet, ob der Einsatz so dokumentiert ist, dass Datenschutz, IT und Fachbereich dieselbe Antwort geben würden.

Warum Governance die Technik mitziehen muss

Für KMU bedeutet das konkret, dass die KI nicht isoliert betrachtet werden darf. Ein KI-Register hält Use Cases und Verantwortlichkeiten fest, eine interne Richtlinie definiert Freigaben, und die Risikoklasse entscheidet, ob eine DSFA erforderlich wird. Ohne diese Struktur kann ein technisch gutes System trotzdem organisatorisch unbrauchbar sein.

Wer eine gute Übersicht über Datenaufbewahrung und Löschprozesse braucht, findet eine praxisnahe Einordnung bei diesen Hinweisen zur Datenaufbewahrung. Gerade bei Gesprächsdaten und Kalenderdaten ist das wichtig, weil Retention nicht erst am Ende, sondern schon bei der Systemarchitektur mitgedacht werden muss.

Wer saubere Datenschutzinformationen für Betroffene braucht, kann sich an den konkreten Hinweisen von Informationen zum Datenschutz orientieren, weil dort die Erwartung an klare Hinweise und nachvollziehbare Prozesse gut sichtbar wird.

Der rechtliche Rahmen wird in der Praxis erst dann handhabbar, wenn er in Abläufe übersetzt wird. Rechtsgrundlage, Transparenz, Auftragsverarbeitung und Risikodokumentation sind keine getrennten Baustellen. Sie greifen ineinander und entscheiden gemeinsam darüber, ob eine KI im Betrieb bleibt oder wieder ausgebaut werden muss.

Technische und organisatorische Maßnahmen in der Praxis

Vom Anruf bis zum CRM-Eintrag

Ein Voice-AI-System sollte nur die Daten verarbeiten, die für den jeweiligen Zweck wirklich nötig sind. Das beginnt bei Datenminimierung und endet nicht bei der Oberfläche. Wenn ein KI-Telefonagent nur Termininteresse, Kontaktdaten und eine kurze Qualifikation braucht, dann haben umfangreiche Freitextspeicher oder vollständige Gesprächsmitschnitte im Regelfall einen höheren Prüfbedarf als der Anwendungsfall selbst.

Der nächste Schritt ist Pseudonymisierung vor der KI-Verarbeitung, soweit es der Use Case zulässt. Wenn das System Leads qualifiziert, kann es intern mit Platzhaltern arbeiten und personenbezogene Details erst später wieder zuordnen. Das reduziert das Risiko, dass ein Modell mit unnötig identifizierbaren Eingaben arbeitet.

Sicherheit und Nachvollziehbarkeit

Verschlüsselte Übertragungswege sind Pflicht, wenn Gesprächsdaten, Kalenderdaten oder CRM-Daten zwischen Systemen wandern. Dazu kommen Zugriffskontrollen, damit nur autorisierte Personen sehen, was der KI-Agent erfasst hat. In der Praxis ist das besonders wichtig, wenn Vertrieb, Recruiting und Operations am selben Tool hängen.

Ein belastbares System braucht außerdem manipulationssichere Audit-Logs. Jede Agenten- oder Modellaktion sollte einem menschlich verantwortlichen Entscheider zuordenbar bleiben. Genau das hilft später bei Rückfragen der Datenschutzaufsicht, weil sich nicht nur das Ergebnis, sondern auch der Weg dorthin nachvollziehen lässt.

Praxisformel: Wenn Sie eine Aktion nicht sauber protokollieren können, sollten Sie sie auch nicht automatisieren.

Für die technische Ausgestaltung lohnt der Blick auf einen sauberen Audit-Trail. Dort liegt der Schwerpunkt auf der Frage, wie Entscheidungen und Änderungen später noch prüfbar bleiben, und genau das ist bei KI-Systemen oft der entscheidende Unterschied zwischen „läuft“ und „ist belastbar“.

Am Ende zählt die Zuordenbarkeit. Wer später erklären muss, warum ein Termin gebucht, ein Lead priorisiert oder eine Einwilligung eingeholt wurde, braucht eine Architektur, die Mensch und Maschine klar trennt und trotzdem zusammen dokumentiert. Genau dort trennt sich eine saubere Implementierung von einer bloß schnellen Integration.

Datenschutz-Folgenabschätzung und Risikobewertung bei KI-Systemen

Wann die DSFA praktisch unvermeidbar wird

Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist kein Spezialthema für Großunternehmen. Sie wird immer dann relevant, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten auslöst, etwa bei Profiling, automatisierter Entscheidungsfindung, systematischer Überwachung, beim umfangreichen Einsatz sensibler Daten oder beim Einsatz neuer Technologien. Für KI im operativen Alltag ist das häufig schneller erreicht, als viele Teams denken. Telekom MMS zu Datenschutz und KI

Bei Voice-AI kommen die Risiken oft gebündelt zusammen. Gesprächsaufzeichnung, Transkription, Lead-Scoring und automatische Terminbuchung sind für sich genommen schon prüfbedürftig, zusammen werden sie in vielen Fällen DSFA-relevant. Der Grund ist nicht ein einzelner Faktor, sondern die Kombination mehrerer Verarbeitungsschritte mit personenbezogenem Bezug.

Die deutsche Prüfpraxis ist zusätzlich streng in der Reihenfolge. Erst sollen vollständig anonyme Daten verwendet werden, dann pseudonymisierte Daten, und erst wenn beides nicht praktikabel ist, dürfen im Ausnahmefall unveränderte Personendaten eingesetzt werden. Das macht aus der Auswahl des Datenformats eine Governance-Entscheidung, nicht nur eine technische Frage. Rechtsgrundlagen für Datenschutz und KI in Baden-Württemberg

DSGVO und EU AI Act zusammendenken

Die Überschneidung mit dem EU AI Act liegt vor allem im Governance-Bereich. Die DSGVO fragt nach Rechtmäßigkeit, Transparenz und Datenminimierung, der AI Act schiebt Klassifizierung, Risikomanagement und Dokumentation nach. Wer beides zusammen denkt, plant deshalb nicht doppelt, sondern baut ein einziges System aus Risikoerkennung, Freigabe und Nachweisführung.

Für die Praxis heißt das. Wenn ein KI-Tool Entscheidungen beeinflusst oder vorbereitend handelt, braucht es klare menschliche Aufsicht, dokumentierte Datenquellen und einen nachvollziehbaren Freigabeprozess. In automatisierten Vertriebs- oder Recruiting-Strecken reicht es nicht, dass das Ergebnis plausibel wirkt. Es muss intern erklärbar bleiben.

Wer eine schnelle Einordnung zum Verhältnis von DSGVO und AI-Act-Pflichten braucht, kann die Unterschiede gut in der offiziellen Logik der europäischen Regulierung spiegeln. Das Ziel ist nicht Perfektion, sondern ein Setup, das Risiko früh erkennt und sauber dokumentiert.

DSGVO und EU AI Act gemeinsam denken

Die interne Checkliste für Tool-Entscheider

Die größte Lücke in vielen Unternehmen ist nicht die Technik, sondern die Anbieterprüfung. Vor dem Go-live sollte geklärt sein, ob der Anbieter Hosting in der EU oder im gewünschten Land bietet, ob ein Auftragsverarbeitungsvertrag vorliegt und ob Eingaben vom Training ausgeschlossen werden. Ohne diese drei Punkte wird jede weitere Prüfung unnötig kompliziert.

Ein zweiter Prüfpunkt ist die Nachvollziehbarkeit von Prompts und Outputs. Wenn Fachbereiche in ein System eingreifen, muss dokumentiert sein, wer welche Eingabe gemacht hat und wie daraus eine Entscheidung entstanden ist. Das gilt besonders dort, wo KI nicht nur Text erzeugt, sondern einen Prozess anstößt, etwa beim Buchen eines Termins oder beim Einstufen eines Leads.

Worauf Anbieter wirklich Antworten liefern müssen

Die Anbieterfragen sollten sehr konkret sein. Gibt es getrennte Umgebungen für Produktivdaten, werden Logs revisionssicher gespeichert, und lassen sich Löschfristen sauber konfigurieren. Gibt es Möglichkeiten, Eingabedaten nicht für Modelltraining zu verwenden, und wie wird das technisch sowie vertraglich abgesichert.

Für viele Teams ist zusätzlich wichtig, wie ein Anbieter mit CRM-Exporten und Kalenderintegrationen umgeht. Wenn Daten nach HubSpot, Calendly oder Outlook fließen, braucht es klare Rollen, nachvollziehbare Schnittstellen und eine Dokumentation, die im Ernstfall nicht bei der IT endet. Genau hier schließt sich die Lücke zwischen Compliance und Betrieb.

Eine interne KI-Richtlinie sollte deshalb nicht abstrakt formuliert sein. Sie muss festlegen, wer Tools freigibt, welche Datenarten erlaubt sind, wie menschliche Kontrolle aussieht und wie Vorfälle eskaliert werden. Alles andere bleibt Theorie.

Anbieter-Checkliste für DSGVO-konforme KI-Tools

So prüfen Sie konkrete Lösungen

Ein Anbieter kann mit europäischen Rechenzentren werben, trotzdem bleibt die eigentliche Frage offen: Sind Verarbeitung, Speicherung und Protokollierung sauber in einer gemeinsamen Governance geregelt, oder liegen die Datenwege nur scheinbar unter Kontrolle. Im Alltag zählt auch, was im Vertrag zu Eingaben, Metadaten und abgeleiteten Daten festgehalten ist, weil dort später entschieden wird, wie weit die Nutzung wirklich reicht.

Bei der Prüfung hilft ein Blick auf unsere Datenschutzbestimmungen, weil dort sichtbar wird, wie Transparenz, Zweckbindung und Datenverarbeitung verständlich formuliert sein sollten. Für KI-Tools ist genau diese Nachvollziehbarkeit ein praktischer Prüfstein, nicht nur ein formaler Textbaustein.

Prüfpunkt	Anforderung	Typische Umsetzung
Hosting-Standort	EU oder Deutschland dokumentiert	Produktivumgebung in der gewünschten Region
Auftragsverarbeitung	Vertrag nach Art. 28 DSGVO vorhanden	AVV vor dem Go-live unterschreiben
Trainingsdaten	Eingaben nicht fürs Training nutzen	Vertraglicher Ausschluss und technische Sperre
Logging	Zugriffe und Aktionen nachvollziehbar	Revisionssichere Protokolle mit Rollenbezug
Transparenz	Betroffene werden informiert	Klare Hinweise im Prozess und in der Datenschutzerklärung

Drei typische Einsatzszenarien

Im Vertrieb sollte ein Voice-AI-Setter keine unnötigen Gesprächsinhalte speichern, sondern nur die Daten, die für Qualifizierung und Terminierung gebraucht werden. Im Recruiting ist die Lage noch sensibler, weil Bewerbungsdaten oft mehr Kontext enthalten und Freigabeschritte enger kontrolliert werden müssen. Bei automatisierten Terminerinnerungen zählt vor allem, ob der Bot nur erinnert oder zusätzlich personenbezogene Informationen verarbeitet, die für den eigentlichen Zweck gar nicht nötig sind.

Wer ein internes Konzept für die Integration in bestehende Systemlandschaften braucht, sollte die vertragliche Seite mitprüfen. Ein sauber formulierter SLA-Ansatz hilft dabei, Verfügbarkeit, Reaktionszeiten und Zuständigkeiten klar festzulegen. Gerade bei Live-Telefonie ist das oft der Punkt, an dem sich stabile Abläufe von späteren Betriebslücken unterscheiden.

Ein pragmatischer Test ist schnell gestellt. Kann der Anbieter erklären, wo Daten liegen, wie sie geschützt sind, wer darauf zugreifen kann und wie Löschung funktioniert. Wenn diese Antworten vage bleiben, fehlt für produktive KI im Unternehmen meist noch die nötige Reife, auch wenn die Oberfläche bereits überzeugend wirkt.

Fallbeispiele aus Vertrieb, Recruiting und Terminbuchung

Vertrieb mit KI-Telefonsetter

Ein Vertriebs-Team setzt einen KI-Telefonsetter ein, der neue Leads anruft, Interesse abfragt und direkt Termine einträgt. Hier sind Gesprächsaufzeichnung, Qualifizierung und CRM-Übergabe eng miteinander verknüpft, deshalb muss klar sein, welche Felder wirklich gebraucht werden. Wenn das Tool direkt in HubSpot schreibt, sollten nur die Daten fließen, die der Lead-Prozess tatsächlich nutzt.

Pseudonymisierung hilft vor allem bei der internen Verarbeitung. Der Agent kann mit einer Fall-ID arbeiten, während personenbezogene Daten erst im nächsten Systemschritt wieder sichtbar werden. Das reduziert die Streuung sensibler Informationen und macht die Protokollierung einfacher.

Recruiting und Bewerberkommunikation

In der Bewerberkommunikation wird die Lage schneller sensibel, weil Bewerbungsdaten oft mehr Kontext enthalten als ein klassischer Sales-Lead. Eine Voice-AI für Erstkontakt oder Terminabstimmung braucht deshalb klare Freigaben und eine sehr saubere Dokumentation. Auch hier gilt, dass nicht jeder Zusatzscreening-Schritt sinnvoll ist, nur weil er technisch möglich ist.

Wenn die KI Bewerber anruft oder Rückrufe organisiert, müssen Aufbewahrung, Rollenzugriff und Löschlogik feststehen. Für den Fachbereich zählt am Ende nicht die Modellarchitektur, sondern ob der Prozess fair, nachvollziehbar und rechtlich tragfähig bleibt.

Automatisierte Terminerinnerungen

Terminerinnerungen wirken oft harmlos, sind aber datenrechtlich nicht trivial, sobald sie mit CRM-Daten oder Gesprächsnotizen angereichert werden. Ein System, das nur an einen Termin erinnert, ist deutlich einfacher zu prüfen als eines, das gleichzeitig Gesprächszusammenfassungen, Prioritäten und Folgeaufgaben erzeugt. Genau diese kleine technische Erweiterung kann den gesamten Prüfbedarf verändern.

Ein sauberer Kalender-Workflow ist nicht automatisch eine einfache Datenschutzfrage. Erst die Kombination mit Gesprächsdaten entscheidet über die Komplexität.

Wer diese Muster einmal durchdacht hat, kann sie auf andere Prozesse übertragen. Der Kern bleibt gleich, nur der Datenumfang und die Sensibilität ändern sich. Compliance und Conversion lassen sich zusammen denken, aber nur, wenn der Prozess vor dem Go-live sauber aufgebaut ist.

Praxis-Checkliste für den Start mit DSGVO-konformer KI

Starten Sie mit einem einzelnen Use Case und dokumentieren Sie Zweck, Datenkategorien und Beteiligte. Prüfen Sie dann die Rechtsgrundlage, den DSFA-Bedarf und die internen Freigaben. Danach folgen technische Maßnahmen wie Datenminimierung, Pseudonymisierung, Zugriffskontrollen und Audit-Logs, bevor der Anbieter den finalen Test bekommt.

Danach braucht es eine interne KI-Richtlinie, die Vertrieb, IT, Datenschutz und Fachbereich gemeinsam tragen. DSGVO-konforme KI ist kein Einmalprojekt, sondern ein laufender Governance-Prozess. Wer ihn sauber aufsetzt, kann KI im Alltag deutlich entspannter einsetzen.

---

malma.ai bietet einen KI-Telefonagenten für Lead-Qualifizierung, Terminbuchung und eingehende Anrufe, und das passt genau zu den operativen Fragen dieses Themas. Wenn Sie prüfen wollen, wie Voice-AI in Ihrem Vertrieb oder Recruiting datenschutzsauber eingebettet werden kann, schauen Sie sich malma.ai an und gleichen Sie den Einsatz direkt mit Ihren internen Datenschutz- und IT-Vorgaben ab.