KI-Tool Datenschutz bewerten mit 7 Prüffragen

Rechtsstand: Oktober 2026

Ein Mitarbeitender lädt eine Kundenanfrage in einen KI-Assistenten, um eine Antwort vorzubereiten. Eine Personalabteilung lässt Bewerbungen vorsortieren. Oder ein Startup wertet Support-Tickets aus, um häufige Probleme zu erkennen. Solche Anwendungen können sinnvoll sein. Wer ein KI-Tool datenschutzrechtlich bewerten möchte, sollte aber nicht erst auf die Datenschutzerklärung des Anbieters schauen, wenn die Anwendung bereits im Arbeitsalltag angekommen ist.

Entscheidend ist nicht allein, ob ein Tool als „DSGVO-konform“ beworben wird. Maßgeblich ist, welche Daten im konkreten Einsatz verarbeitet werden, zu welchem Zweck dies geschieht, welche Vertragsrolle der Anbieter einnimmt und welche Risiken für Betroffene entstehen. Datenschutz und KI-Regulierung greifen dabei ineinander, bleiben aber unterschiedliche Prüfungen.

Warum die Bewertung vor dem Einsatz beginnt

Viele KI-Tools sind schnell eingerichtet. Gerade darin liegt ein Risiko: Testzugänge werden mit echten Daten befüllt, Mitarbeitende nutzen private Accounts oder Funktionen ändern sich nach einem Update. Aus einem unverbindlichen Test kann so eine dauerhafte Verarbeitung personenbezogener Daten werden.

Personenbezogen sind nicht nur Name, E-Mail-Adresse oder Telefonnummer. Auch Gesprächsinhalte, Bewerbungsunterlagen, Kundenhistorien, IP-Adressen, interne Bewertungen und Kombinationen aus scheinbar harmlosen Informationen können einen Personenbezug haben. Bei generativer KI kommt hinzu: Prompts, hochgeladene Dateien und Ausgaben können vertrauliche Informationen enthalten oder Rückschlüsse auf einzelne Personen zulassen.

Für Unternehmen in der Region Stuttgart gilt dabei nichts anderes als bundesweit: Die Datenschutz-Grundverordnung verlangt eine Prüfung, die zum tatsächlichen Einsatz passt. Ein KI-Tool für allgemeine Textentwürfe ohne Personenbezug ist anders zu bewerten als eine Anwendung, die Beschäftigtendaten analysiert oder Entscheidungen über Kunden vorbereitet.

KI-Tool Datenschutz bewerten: Die sieben Prüffragen

1. Welche Daten gelangen tatsächlich in das Tool?

Der erste Blick gilt nicht dem Produktnamen, sondern den Datenflüssen. Dokumentieren Sie, welche Informationen Mitarbeitende eingeben, hochladen oder über Schnittstellen übertragen. Berücksichtigen Sie auch Metadaten, Protokolldaten und Inhalte, die das Tool aus anderen Systemen abruft.

Besondere Vorsicht ist bei sensiblen Daten geboten. Dazu zählen etwa Gesundheitsdaten, Angaben zur Gewerkschaftszugehörigkeit, biometrische Daten oder Informationen über strafrechtliche Vorwürfe. Für diese besonderen Kategorien personenbezogener Daten gelten erhöhte Anforderungen. Im Regelfall sollte ihr Einsatz in frei verfügbaren oder ungeprüften KI-Diensten ausgeschlossen sein.

Praktisch hilfreich ist eine klare Freigabeliste: Welche Daten dürfen verarbeitet werden, welche nur nach Einzelfallprüfung und welche niemals? Eine pauschale Anweisung wie „keine vertraulichen Daten eingeben“ reicht oft nicht aus. Mitarbeitende brauchen verständliche Beispiele aus ihrem Arbeitsbereich.

2. Was ist der konkrete Zweck und welche Rechtsgrundlage trägt ihn?

„Effizienzsteigerung“ kann ein wirtschaftliches Ziel beschreiben, ist aber noch kein ausreichend bestimmter Verarbeitungszweck. Beschreiben Sie möglichst konkret, was die KI leisten soll: etwa Gesprächsnotizen strukturieren, Entwürfe erstellen, Tickets kategorisieren oder Wissensdaten durchsuchen.

Danach ist zu prüfen, auf welcher Rechtsgrundlage die Verarbeitung beruht. Je nach Fall kommen insbesondere die Vertragserfüllung, rechtliche Pflichten, berechtigte Interessen oder eine Einwilligung in Betracht. Eine Einwilligung ist im Unternehmensalltag nicht automatisch die einfachste Lösung. Sie muss freiwillig, informiert und jederzeit widerrufbar sein. Im Beschäftigungsverhältnis ist die Freiwilligkeit besonders sorgfältig zu bewerten.

Der Zweck begrenzt zugleich den Einsatz. Werden Daten zunächst für den Kundenservice verarbeitet, dürfen sie nicht ohne Weiteres zum Training eines Modells oder zur Leistungsbewertung von Beschäftigten verwendet werden.

3. Ist der Anbieter Auftragsverarbeiter oder verarbeitet er Daten für eigene Zwecke?

Diese Frage entscheidet über zentrale Vertrags- und Kontrollpflichten. Verarbeitet der Anbieter personenbezogene Daten ausschließlich nach Weisung des Unternehmens, liegt häufig eine Auftragsverarbeitung vor. Dann ist in der Regel ein Vertrag zur Auftragsverarbeitung erforderlich. Er muss nicht nur vorhanden sein, sondern den tatsächlichen Dienst und die vereinbarten Sicherheitsmaßnahmen abbilden.

Schwieriger wird es, wenn der Anbieter Eingaben oder Ausgaben für eigene Zwecke nutzt, etwa zur Produktverbesserung, Analyse oder zum Training. Dann kann der Anbieter ganz oder teilweise eigenständig Verantwortlicher sein. Eine bloße Klausel, wonach Daten „zur Verbesserung“ verwendet werden dürfen, sollte nicht ungeprüft akzeptiert werden.

Prüfen Sie deshalb die Vertragsunterlagen, die Produktbedingungen und die Einstellungen im Konto. Relevant sind insbesondere Regelungen zur Nutzung von Kundendaten, zu Unterauftragnehmern, Löschfristen, Supportzugriffen und Änderungen des Leistungsumfangs.

4. Wo werden die Daten verarbeitet und wie sind Drittlandtransfers abgesichert?

Der Serverstandort allein beantwortet diese Frage nicht. Auch Fernzugriffe, konzerninterne Supportleistungen oder eingesetzte Unterauftragnehmer können Datenübermittlungen in Staaten außerhalb des Europäischen Wirtschaftsraums auslösen.

Für solche Drittlandtransfers braucht es eine tragfähige Grundlage. Häufig werden Standardvertragsklauseln vereinbart. Sie ersetzen jedoch nicht die Prüfung, ob im konkreten Empfängerland zusätzliche Risiken bestehen und ob ergänzende technische oder organisatorische Maßnahmen erforderlich sind. Verschlüsselung, ein wirksames Schlüsselmanagement und die Beschränkung von Zugriffsrechten können dabei relevant sein.

Werden Daten in einer europäischen Region gespeichert, kann das Risiko geringer sein. Es entfällt aber nicht automatisch die Prüfung weiterer Verarbeitungsschritte. Gerade bei KI-Diensten sollten Unternehmen nachvollziehen können, welche Konzernunternehmen und Unterauftragnehmer Zugriff erhalten können.

5. Werden Eingaben zum Training genutzt und lassen sie sich wirksam löschen?

Bei generativer KI ist diese Frage besonders wichtig. Unternehmen sollten klären, ob Prompts, hochgeladene Dokumente oder Ausgaben in Trainingsdaten einfließen. Falls eine Deaktivierung möglich ist, muss sie technisch korrekt eingerichtet und dokumentiert werden. Auch eine Einstellung im Administrationsbereich genügt nicht, wenn Mitarbeitende parallel private oder nicht freigegebene Zugänge verwenden.

Ebenso relevant sind Aufbewahrungs- und Löschkonzepte. Können Inhalte gelöscht werden? Gelten unterschiedliche Fristen für aktive Daten, Backups und Sicherheitsprotokolle? Wie wird auf Auskunfts-, Berichtigungs- oder Löschanfragen reagiert? Eine pauschale Zusage des Anbieters, Daten zu löschen, genügt nicht, wenn der Prozess nicht zum eigenen Umgang mit Betroffenenrechten passt.

6. Sind Sicherheit, Zugriff und interne Nutzung geregelt?

Ein gutes KI-Tool kann datenschutzrechtlich problematisch eingesetzt werden, wenn jede Person im Unternehmen darauf zugreifen kann. Prüfen Sie Rollen und Berechtigungen, Mehrfaktor-Authentifizierung, Protokollierung, Verschlüsselung sowie die Trennung von Mandanten und Arbeitsbereichen.

Daneben braucht es interne Regeln. Sie sollten festlegen, welche Tools freigegeben sind, welche Datenkategorien eingegeben werden dürfen und wann eine menschliche Prüfung erforderlich ist. Besonders bei Texten mit Außenwirkung, Personalmaßnahmen, Vertragsinhalten oder fachlichen Bewertungen darf die Ausgabe der KI nicht ungeprüft übernommen werden.

Im Arbeitsverhältnis können zusätzlich Mitbestimmungsrechte des Betriebsrats berührt sein, etwa wenn ein Tool Verhalten oder Leistung von Beschäftigten überwachen oder auswerten kann. Diese Frage sollte vor der Einführung geklärt werden, nicht erst nach einem Konflikt.

7. Ist eine Datenschutz-Folgenabschätzung oder weitere KI-Prüfung erforderlich?

Eine Datenschutz-Folgenabschätzung ist erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Das kann etwa bei umfangreicher Bewertung persönlicher Aspekte, bei systematischer Überwachung oder bei der Verarbeitung besonders sensibler Daten der Fall sein. Ob die Schwelle erreicht ist, hängt von Funktion, Datenumfang, Betroffenengruppe und möglichen Folgen ab.

Zusätzlich sind die Vorgaben des EU AI Act zu prüfen. Sie betreffen nicht nur Entwickler von KI, sondern je nach Rolle und Einsatz auch Unternehmen, die KI-Systeme verwenden. Bei bestimmten Hochrisiko-Anwendungen, etwa in Teilen von Beschäftigung und Personalmanagement, können weitergehende Pflichten entstehen. Datenschutzrechtliche Zulässigkeit bedeutet daher nicht automatisch, dass alle KI-rechtlichen Anforderungen erfüllt sind.

Typische Fehler bei der Einführung

Häufig scheitert die Prüfung nicht an fehlenden Informationen, sondern an der Reihenfolge. Erst wird ein Tool beschafft, dann werden Daten eingegeben und zuletzt sollen Datenschutz, IT-Sicherheit und Betriebsrat die Entscheidung absichern. Das führt zu Zeitdruck und unnötigen Umstellungen.

Ebenfalls problematisch sind unklare Verantwortlichkeiten. Fachabteilung, IT, Datenschutz und Geschäftsführung müssen nicht jeden einzelnen Prompt freigeben. Sie sollten aber verbindlich festlegen, wer Tools auswählt, Verträge prüft, Einstellungen kontrolliert und Mitarbeitende schult. Bei Startups und mittelständischen Unternehmen kann eine schlanke, dokumentierte Freigabe oft sinnvoller sein als ein umfangreiches Regelwerk, das im Alltag niemand anwendet.

Was Unternehmen jetzt konkret tun können

Beginnen Sie mit einer Bestandsaufnahme: Welche KI-Tools werden bereits offiziell oder informell genutzt? Erfassen Sie anschließend Datenarten, Zwecke, Nutzergruppen, Anbieter, Speicherorte und Vertragsgrundlagen. Für Anwendungen mit erhöhtem Risiko sollte vor dem produktiven Einsatz eine vertiefte Datenschutz- und KI-rechtliche Prüfung erfolgen.

Eine schriftliche Nutzungsrichtlinie schafft Klarheit, ersetzt aber keine technische Kontrolle. Sinnvoll sind daher freigegebene Unternehmensaccounts, deaktivierte Trainingsoptionen, restriktive Rechtekonzepte und kurze, praxisnahe Schulungen. Die Dokumentation gehört dabei nicht in eine Schublade. Sie muss aktualisiert werden, wenn sich Funktionen, Datenflüsse oder Anbieterbedingungen ändern.

Bei KI-Projekten mit Beschäftigten-, Kunden- oder sensiblen Daten kann eine rechtliche Prüfung vor der Einführung spätere Konflikte und Umstellungen vermeiden. Die Quteco Rechtsanwaltsgesellschaft unterstützt Unternehmen aus Fellbach, Stuttgart und bundesweit bei der datenschutz- und KI-rechtlichen Einordnung konkreter Anwendungsfälle. Eine frühe Prüfung schafft keine Bürokratie um ihrer selbst willen, sondern klare Regeln für einen Einsatz, der fachlich nützt und rechtlich tragfähig bleibt.