top of page
Welche Daten brauchen KI-Systeme wirklich?

Welche Daten brauchen KI-Systeme wirklich?

Autorenbild: Ebru Hazinedar
Ebru Hazinedar
15. Nov.
5 Min. Lesezeit

Rechtsstand: November 2026

Ein Unternehmen möchte Bewerbungen vorsortieren lassen, ein Chatbot soll Kundenanfragen beantworten oder eine Software Bauzeiten auswerten. Die technische Frage lautet oft zuerst: Welche Daten brauchen KI Systeme? Rechtlich folgt unmittelbar eine zweite Frage: Dürfen diese Daten für genau diesen Zweck verwendet werden?

Beides gehört zusammen. Ein KI-System wird nicht dadurch besser, dass möglichst viele Daten hineingegeben werden. Entscheidend sind passende, verlässliche und rechtmäßig nutzbare Daten. Gerade Unternehmen sollten vor dem Start klären, welche Daten wirklich erforderlich sind, woher sie stammen und wer ihre Nutzung verantwortet.

Welche Daten brauchen KI-Systeme?

KI-Systeme benötigen Daten nicht immer in derselben Form. Ob ein System Daten zum Lernen, für den laufenden Betrieb oder nur als Kontext für eine einzelne Antwort verarbeitet, macht rechtlich und technisch einen erheblichen Unterschied.

Trainingsdaten dienen dazu, ein Modell zu entwickeln oder weiterzuentwickeln. Das können Texte, Bilder, Tonaufnahmen, Messwerte oder strukturierte Datensätze sein. Ein Unternehmen, das ein eigenes Modell trainiert, muss deshalb besonders genau prüfen, welche Rechte an diesen Daten bestehen und ob personenbezogene Informationen enthalten sind.

Anders ist es bei Eingabedaten im laufenden Einsatz. Wenn Beschäftigte einem bereits vorhandenen KI-Assistenten Inhalte aus E-Mails, Verträgen oder Kundenvorgängen übergeben, trainiert das System nicht zwingend damit. Trotzdem verarbeitet der Anbieter oder das Unternehmen möglicherweise personenbezogene, vertrauliche oder geschäftskritische Daten. Der Hinweis, ein System nutze Eingaben nicht zum Training, beantwortet daher nicht alle Datenschutz- und Geheimnisschutzfragen.

Hinzu kommen Kontextdaten und Rückmeldedaten. Kontextdaten helfen dem System, eine konkrete Aufgabe zu lösen, etwa Produktinformationen für einen Support-Chatbot. Rückmeldedaten zeigen, ob ein Ergebnis richtig oder falsch war. Sie können die Qualität eines Systems verbessern, sollten aber nur erhoben werden, wenn ihr Zweck klar ist.

Datenqualität ist wichtiger als Datenmenge

Unvollständige, veraltete oder einseitige Daten führen zu unzuverlässigen Ergebnissen. Das gilt für ein Prognosemodell ebenso wie für einen Chatbot mit einer internen Wissensdatenbank. Werden etwa alte Preislisten, nicht freigegebene Vertragsmuster und aktuelle Richtlinien gemeinsam hinterlegt, kann die KI widersprüchliche Antworten geben.

Gute Daten sind für den jeweiligen Zweck relevant, aktuell und nachvollziehbar. Bei personenbezogenen Daten kommt hinzu, dass falsche Zuordnungen oder unzutreffende Bewertungen Menschen unmittelbar benachteiligen können. In personalbezogenen Verfahren ist daher besondere Vorsicht geboten. Eine automatisierte Vorauswahl darf nicht auf Daten beruhen, deren Aussagekraft ungeprüft bleibt.

Auch Verzerrungen sind ein praktisches Risiko. Spiegelt ein Datensatz frühere diskriminierende Entscheidungen wider, kann ein KI-System diese Muster übernehmen. Die bloße Annahme, Technik entscheide objektiv, ist keine ausreichende Kontrolle.

Datenschutz: Nicht jede verfügbare Information darf in die KI

Sobald sich Daten auf identifizierte oder identifizierbare Personen beziehen, gelten die Anforderungen der Datenschutz-Grundverordnung. Das betrifft offensichtlich Namen, Kontaktdaten und Personalakten. Es kann aber auch Kundenkommunikation, Standortdaten, Fotos, Gesprächsprotokolle oder pseudonymisierte Datensätze betreffen, wenn eine Re-Identifizierung möglich bleibt.

Unternehmen brauchen für die Verarbeitung eine tragfähige Rechtsgrundlage. Außerdem müssen Zweckbindung und Datenminimierung beachtet werden. Praktisch bedeutet das: Es sollten nur die Daten verarbeitet werden, die für den festgelegten KI-Einsatz erforderlich sind. Ein allgemeines Interesse daran, eine KI möglichst umfassend zu füttern, reicht nicht aus.

Besonders sensibel sind besondere Kategorien personenbezogener Daten, etwa Gesundheitsdaten, biometrische Daten oder Angaben zur politischen Meinung. Solche Informationen dürfen nicht beiläufig über Uploads, Gesprächsverläufe oder interne Dokumente in ein KI-System gelangen. Für Personalabteilungen, Arztpraxen, Sozialträger und Unternehmen mit umfangreichen Kundenakten ist dieser Punkt besonders relevant.

Je nach Einsatz kann eine Datenschutz-Folgenabschätzung erforderlich sein. Sie dient dazu, Risiken für betroffene Personen vor Beginn der Verarbeitung systematisch zu bewerten. Das ist keine reine Formalität: Sie kann sichtbar machen, dass ein geplanter KI-Einsatz angepasst, zusätzlich abgesichert oder in dieser Form nicht umgesetzt werden sollte.

Der EU AI Act stellt zusätzliche Anforderungen

Der EU AI Act ergänzt den Datenschutz, ersetzt ihn aber nicht. Während die DSGVO den Umgang mit personenbezogenen Daten regelt, nimmt der AI Act vor allem Risiken von KI-Systemen in den Blick. Seit August 2026 gelten seine Regelungen grundsätzlich umfassend, wobei einzelne Pflichten bereits früher anwendbar wurden.

Für Hochrisiko-KI-Systeme gelten besondere Vorgaben zur Daten-Governance. Dazu zählen Anforderungen an geeignete Datenmanagementpraktiken sowie an die Relevanz, Fehlerfreiheit und Vollständigkeit der verwendeten Datensätze. Ob ein System als hochriskant einzuordnen ist, hängt vom konkreten Zweck und Einsatzbereich ab. KI zur Bewerberauswahl oder zur Bewertung von Beschäftigten kann etwa in einen besonders regulierten Bereich fallen.

Wichtig ist die Rollenverteilung. Anbieter, Betreiber und gegebenenfalls weitere Beteiligte haben unterschiedliche Pflichten. Ein Unternehmen, das ein externes System einkauft, ist nicht automatisch von Verantwortung frei. Es muss insbesondere prüfen, ob der vorgesehene Einsatz zulässig ist, ob Beschäftigte ausreichend geschult sind und ob die erforderliche menschliche Kontrolle tatsächlich stattfindet.

Datenquellen: Rechte, Verträge und Vertraulichkeit prüfen

Bei Daten aus dem eigenen Unternehmen denken viele zuerst an Datenschutz. Daneben können Urheberrechte, Geschäftsgeheimnisse und vertragliche Vertraulichkeitspflichten betroffen sein. Eine technische Dokumentation, ein Quellcode-Auszug oder eine Kundenpräsentation kann zwar keine personenbezogenen Daten enthalten, darf aber dennoch nicht ohne Weiteres an einen externen KI-Anbieter übermittelt werden.

Bei Daten aus dem Internet gilt ebenfalls keine freie Verwendbarkeit. Öffentlich auffindbar bedeutet nicht automatisch, dass Inhalte für das Training oder die kommerzielle Auswertung genutzt werden dürfen. Maßgeblich können Nutzungsbedingungen, urheberrechtliche Schutzrechte und weitere gesetzliche Vorgaben sein.

Bei externen KI-Diensten sollte vertraglich geklärt werden, wo Daten verarbeitet werden, ob Unterauftragnehmer eingesetzt werden und ob Eingaben zu Trainingszwecken verwendet werden. Ebenso relevant sind Löschkonzepte, technische Sicherheitsmaßnahmen und die Unterstützung des Anbieters bei Betroffenenanfragen oder Sicherheitsvorfällen.

So schaffen Unternehmen vor dem KI-Einsatz Klarheit

Ein Dateninventar ist oft der sinnvollste erste Schritt. Es muss nicht kompliziert sein, sollte aber den konkreten Anwendungsfall abbilden. Für jeden Einsatz sollten Unternehmen mindestens diese Fragen beantworten:

  • Welches Ergebnis soll die KI liefern und welche Daten sind dafür tatsächlich nötig?

  • Enthalten die Daten personenbezogene, vertrauliche oder urheberrechtlich geschützte Inhalte?

  • Aus welcher Quelle stammen die Daten und ist ihre Nutzung für diesen Zweck erlaubt?

  • Wer hat Zugriff auf Eingaben und Ergebnisse, einschließlich externer Anbieter?

  • Wie werden fehlerhafte, veraltete oder unzulässige Daten erkannt und entfernt?

Auf dieser Grundlage lässt sich entscheiden, ob Daten anonymisiert, pseudonymisiert oder vollständig aus dem Prozess herausgehalten werden sollten. Häufig ist es sinnvoll, zunächst mit bereinigten Testdaten zu arbeiten. Das senkt Risiken und zeigt zugleich, ob der geplante KI-Einsatz überhaupt einen belastbaren Mehrwert liefert.

Menschliche Prüfung bleibt notwendig

KI-Ergebnisse sind keine verbindlichen Tatsachen. Das gilt besonders, wenn sie Auswirkungen auf Beschäftigte, Bewerber, Kunden oder Vertragspartner haben. Unternehmen sollten festlegen, wer Ergebnisse kontrolliert, wann eine Entscheidung eskaliert wird und wie Fehler dokumentiert werden.

Ein Beispiel aus der Praxis: Ein KI-Assistent fasst Baustellenberichte zusammen. Das kann Zeit sparen. Werden daraus aber Entscheidungen über Nachträge, Mängel oder Verantwortlichkeiten abgeleitet, müssen die zugrunde liegenden Informationen und die Zusammenfassung fachlich geprüft werden. Die KI kann unterstützen, aber keine ungeprüfte rechtliche oder tatsächliche Bewertung ersetzen.

Typische Fehler bei KI-Daten vermeiden

Ein häufiger Fehler ist der Einsatz eines allgemeinen Tools ohne verbindliche interne Regeln. Dann laden Beschäftigte aus Zeitdruck Dokumente hoch, deren Weitergabe weder geprüft noch freigegeben wurde. Klare Vorgaben zu erlaubten Werkzeugen, zulässigen Datenarten und Kontrollschritten sind wirksamer als pauschale Verbote.

Ebenso problematisch ist es, Verantwortlichkeiten zu verstreuen. IT, Fachabteilung, Datenschutz und Geschäftsführung müssen nicht jede Entscheidung gemeinsam treffen. Sie brauchen aber einen abgestimmten Prozess. Gerade mittelständische Unternehmen in der Region Stuttgart können KI-Projekte häufig rechtssicherer und schneller umsetzen, wenn sie den Anwendungsfall früh eingrenzen, statt erst nach der Einführung auf Risiken zu reagieren.

Wenn Sie einen KI-Einsatz planen oder bereits KI-Dienste im Unternehmen nutzen, kann eine rechtliche Prüfung der Datenflüsse, Verträge und internen Regeln sinnvoll sein. Quteco unterstützt Unternehmen bei Datenschutz, KI-Regulierung und der Einordnung nach dem EU AI Act. Gute KI beginnt nicht mit möglichst vielen Daten, sondern mit einer klaren Entscheidung darüber, welche Daten verantwortbar eingesetzt werden können.

 
 
 

Kommentare

Mit 0 von 5 Sternen bewertet.
Noch keine Ratings

Rating hinzufügen
bottom of page