Leitfaden für KI-Risikoklassifizierung im Betrieb

Rechtsstand: August 2026

Ein KI-gestütztes Tool kann im Unternehmen harmlos wirken und dennoch rechtlich relevant sein. Das gilt etwa, wenn ein System Bewerbungen vorsortiert, Kreditwürdigkeit bewertet, Beschäftigte überwacht oder Entscheidungen im Kundenservice vorbereitet. Der Leitfaden für KI-Risikoklassifizierung zeigt, wie Unternehmen den konkreten Einsatz eines KI-Systems nach dem EU AI Act nachvollziehbar einordnen und welche Fragen dabei zuerst beantwortet werden sollten.

Entscheidend ist nicht allein, ob eine Software mit „KI“ beworben wird. Maßgeblich sind Funktion, Einsatzzweck, betroffene Personen sowie die Rolle des Unternehmens in der Lieferkette. Dieselbe technische Lösung kann je nach Einsatzbereich unterschiedlich zu bewerten sein. Wer früh strukturiert prüft, reduziert spätere Umstellungen, Beschaffungsrisiken und Konflikte mit Datenschutz- oder Arbeitsrecht.

Warum die KI-Risikoklassifizierung kein Etikett ist

Der EU AI Act arbeitet mit einem risikobasierten Ansatz. Je stärker ein KI-System Sicherheit, Grundrechte oder den Zugang zu wesentlichen Lebensbereichen beeinträchtigen kann, desto umfassender werden die Anforderungen. Die Risikoklassifizierung ist daher keine bloße Produktbeschreibung, sondern die Grundlage für konkrete Pflichten.

Besonders häufig liegt ein Denkfehler darin, dass Unternehmen nur auf den Anbieter verweisen: Die Software sei eingekauft, also liege die rechtliche Verantwortung dort. Das greift zu kurz. Anbieter, Betreiber, Importeure und Händler können jeweils eigene Pflichten treffen. Ein Unternehmen, das ein System im eigenen Betrieb einsetzt, ist regelmäßig Betreiber. Nimmt es erhebliche Änderungen vor oder bringt es das System unter eigenem Namen auf den Markt, kann sich seine Rolle verändern.

Für Unternehmen in der Region Stuttgart, die KI etwa in Personalabteilungen, bei der Qualitätsprüfung, im Kundenkontakt oder in IT-Sicherheitsprozessen einsetzen, ist deshalb eine einzelfallbezogene Bestandsaufnahme sinnvoll. Sie schafft eine belastbare Grundlage für Einkauf, Compliance und interne Freigaben.

Leitfaden für KI-Risikoklassifizierung: Die Prüfung in fünf Schritten

Eine tragfähige Einordnung beginnt nicht mit einer abstrakten Risikostufe. Sie beginnt mit einer genauen Beschreibung des tatsächlichen Einsatzes.

1. Das KI-System und seinen Zweck konkret beschreiben

Dokumentieren Sie zunächst, was das System macht und was nicht. Erfasst werden sollten insbesondere die Eingabedaten, die erzeugten Ergebnisse, die Nutzergruppen und die Entscheidung, die auf Grundlage des Ergebnisses getroffen wird. Ein Chatbot, der allgemeine Produktfragen beantwortet, ist anders zu bewerten als ein System, das Kunden nach Betrugswahrscheinlichkeit priorisiert.

Wichtig ist auch die Frage nach dem Grad menschlicher Kontrolle. Prüft eine sachkundige Person die Ergebnisse tatsächlich und kann sie abweichend entscheiden? Oder wird eine KI-Empfehlung faktisch übernommen, weil Zeit, Wissen oder technische Abläufe keine echte Kontrolle zulassen? Die Bezeichnung „Entscheidungshilfe“ nimmt einem System nicht automatisch sein Risiko.

2. Die eigene Rolle in der Lieferkette bestimmen

Wer ein fertiges KI-System einkauft und intern nutzt, ist typischerweise Betreiber. Wer ein Modell entwickelt oder ein System unter eigenem Namen anbietet, kann Anbieter sein. Daneben kennt der EU AI Act weitere Rollen, etwa für Importeure und Händler.

Diese Unterscheidung ist praktisch relevant. Anbieter müssen je nach Risikostufe unter anderem Konformitätsanforderungen, technische Dokumentation und Verfahren zur Marktüberwachung erfüllen. Betreiber müssen Systeme im vorgesehenen Rahmen einsetzen, menschliche Aufsicht organisieren und gegebenenfalls Informationen oder Bewertungen vorhalten. Vertragsklauseln mit dem Anbieter helfen, ersetzen aber die Prüfung der eigenen Betreiberpflichten nicht.

Bei Modellen mit allgemeinem Verwendungszweck, etwa großen Sprachmodellen, kommt eine weitere Ebene hinzu. Das Modell selbst und das daraus entwickelte Anwendungssystem sind getrennt zu betrachten. Wer ein Sprachmodell in ein Recruiting- oder Supporttool integriert, darf die Risikobewertung nicht beim Modellnamen beenden.

3. Verbotene Praktiken zuerst ausschließen

Einige KI-Praktiken sind nach dem EU AI Act verboten. Dazu gehören bestimmte Formen manipulativer oder ausbeuterischer Beeinflussung, bestimmte Formen von Social Scoring sowie einzelne biometrische Anwendungen. Für diese Fälle geht es nicht um zusätzliche Dokumentation, sondern darum, dass der Einsatz unterbleiben muss.

In der Praxis sollte diese Prüfung früh erfolgen, insbesondere bei Lösungen mit Emotionserkennung, biometrischen Daten, Verhaltensanalyse oder Bewertung von Personen. Gerade im Arbeitsverhältnis sind solche Funktionen sensibel. Neben dem EU AI Act können Datenschutzrecht, Mitbestimmungsrechte und arbeitsrechtliche Grenzen eine eigenständige Prüfung erforderlich machen.

4. Prüfen, ob ein Hochrisiko-KI-System vorliegt

Hochrisiko-KI-Systeme stehen im Zentrum des EU AI Act. Sie können zum einen in sicherheitsrelevante Produkte oder Produktbestandteile eingebunden sein. Zum anderen nennt der AI Act bestimmte Einsatzbereiche, etwa biometrische Systeme, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen privaten oder öffentlichen Leistungen, Strafverfolgung, Migration sowie Rechtspflege und demokratische Prozesse.

Für viele Arbeitgeber ist der Bereich Beschäftigung besonders relevant. Ein System kann hochriskant sein, wenn es zur Einstellung oder Auswahl von Bewerbern, zur Bewertung von Beschäftigten, zur Aufgabenverteilung oder zur Überwachung eingesetzt wird. Nicht jede digitale Personalsoftware fällt darunter. Entscheidend ist, ob das KI-System die im Gesetz genannten Funktionen erfüllt und wie es im Betrieb eingesetzt wird.

Es gibt eng begrenzte Ausnahmen für Systeme, die nur eng umrissene unterstützende oder vorbereitende Aufgaben wahrnehmen und voraussichtlich kein erhebliches Risiko verursachen. Diese Ausnahme sollte nicht vorschnell angenommen werden. Erforderlich ist eine nachvollziehbare Begründung, warum das System keine wesentliche Entscheidung beeinflusst und keine relevanten Risiken für betroffene Personen schafft.

5. Transparenz- und sonstige Pflichten erfassen

Liegt kein verbotenes und kein hochriskantes System vor, bedeutet das nicht zwingend: keine Pflichten. Der EU AI Act enthält Transparenzpflichten für bestimmte Anwendungen. Personen müssen beispielsweise in bestimmten Konstellationen erkennen können, dass sie mit einem KI-System interagieren oder dass KI-generierte beziehungsweise manipulierte Inhalte vorliegen.

Viele KI-Anwendungen mit geringem Risiko unterliegen dagegen keinen speziellen Anforderungen des AI Act. Dennoch bleiben andere Rechtsgebiete relevant. Werden personenbezogene Daten verarbeitet, ist die Datenschutz-Grundverordnung zu beachten. Im Betrieb können zudem Arbeitsrecht, Betriebsverfassungsrecht, Geheimnisschutz, Urheberrecht und allgemeine zivilrechtliche Haftungsfragen eine Rolle spielen.

Welche Anforderungen bei Hochrisiko-Systemen folgen können

Wird ein System als hochriskant eingeordnet, müssen Unternehmen die Folgen nach ihrer jeweiligen Rolle umsetzen. Für Anbieter stehen insbesondere Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht, Genauigkeit, Cybersicherheit und Konformitätsbewertung im Vordergrund.

Betreiber sollten vor allem prüfen, ob sie das System entsprechend den vorgesehenen Anweisungen einsetzen können. Sie benötigen klare Zuständigkeiten, geschulte Mitarbeitende und funktionierende Eskalationswege. Außerdem sollten sie überwachen, ob Fehlentscheidungen, auffällige Ergebnisse oder Änderungen am System auftreten. Werden Eingabedaten selbst bereitgestellt oder beeinflusst das Unternehmen den Zweck des Systems, entstehen zusätzliche Prüfungsfragen.

Die Pflichten des AI Act gelten zeitlich gestaffelt. Für einzelne Kategorien bestehen bereits Anforderungen, während andere Vorgaben zu Hochrisiko-Systemen abhängig vom Anwendungsfall und der konkreten Regelung später greifen können. Eine Prüfung sollte deshalb nicht nur die Risikostufe, sondern auch den jeweiligen Anwendungszeitpunkt berücksichtigen.

Typische Fehler bei der Einordnung

Die meisten Probleme entstehen nicht durch fehlende Absicht, sondern durch unvollständige Informationen. Vier Fehler treten besonders häufig auf:

• Das Unternehmen bewertet nur das Produkt und nicht den konkreten Verwendungszweck.

• Es übernimmt Aussagen des Anbieters ungeprüft, obwohl die eigene Nutzung davon abweicht.

• Es setzt „menschliche Kontrolle“ mit einer bloßen Freigabe per Klick gleich.

• Es trennt die KI-Prüfung von Datenschutz, Arbeitsrecht und IT-Sicherheit.

Sinnvoll ist daher ein zentrales KI-Verzeichnis. Es muss nicht unnötig komplex sein. Für jedes System sollten Zweck, Fachbereich, Datenarten, Anbieter, eigene Rolle, Risikoeinstufung, Begründung, menschliche Aufsicht und offene Maßnahmen festgehalten werden. Bei Änderungen am System, neuen Funktionen oder einem anderen Einsatzbereich muss die Einordnung aktualisiert werden.

Wann eine rechtliche Prüfung besonders sinnvoll ist

Eine vertiefte Prüfung empfiehlt sich vor allem vor dem Einsatz von KI im Recruiting, in der Leistungsbewertung, bei Kredit- oder Bonitätsentscheidungen, im Gesundheitsbereich, in sicherheitskritischen Prozessen oder bei biometrischen Funktionen. Dasselbe gilt, wenn ein Unternehmen ein KI-System selbst entwickelt, wesentlich anpasst oder an Kunden weitergibt.

Auch bei bereits eingeführten Tools lohnt sich ein Blick. Viele Unternehmen haben generative KI zunächst als Produktivitätswerkzeug eingeführt. Sobald sie jedoch an interne Datenquellen angebunden wird, Antworten automatisiert an Kunden sendet oder in Personal- und Entscheidungsprozesse eingreift, verändern sich die rechtlichen Risiken deutlich.

Eine sorgfältige Klassifizierung schafft keine automatische Rechtssicherheit. Sie macht aber sichtbar, welche Entscheidungen begründet, dokumentiert und gegebenenfalls korrigiert werden müssen. Wenn Sie den Einsatz eines KI-Systems nach dem EU AI Act, Datenschutzrecht oder Arbeitsrecht prüfen lassen möchten, unterstützt Quteco bei der rechtlichen Einordnung und bei praxistauglichen Umsetzungsschritten.