Welche Regeln gelten für KI im Unternehmen?
Zwei EU-Regelwerke sind für die meisten Unternehmen entscheidend:
- Die Datenschutz-Grundverordnung (DSGVO) gilt immer dann, wenn personenbezogene Daten verarbeitet werden, also Namen, E-Mail-Adressen, Kundendaten oder Informationen über Mitarbeitende. Es spielt keine Rolle, ob ein Mensch oder eine KI sie verarbeitet.
- Der EU AI Act (Verordnung (EU) 2024/1689) regelt KI-Systeme selbst. Er ist seit dem 1. August 2024 in Kraft und gilt stufenweise.
Dazu kommen je nach Anwendung weitere Regeln, etwa zum Urheberrecht, zum Arbeitsrecht bei KI im Personalbereich oder branchenspezifische Vorgaben. Dieser Artikel gibt einen Überblick und ersetzt keine Rechtsberatung.
Was verlangt die DSGVO beim Einsatz von KI?

- Rechtsgrundlage: Jede Verarbeitung personenbezogener Daten braucht eine Grundlage nach Art. 6 DSGVO, zum Beispiel einen Vertrag, ein berechtigtes Interesse oder eine Einwilligung.
- Datenminimierung: Die KI bekommt nur die Daten, die sie für die Aufgabe braucht. Oft lassen sich Namen und Kennungen vorher entfernen oder ersetzen.
- Auftragsverarbeitung: Nutzt du einen externen KI-Dienst, verarbeitet dieser die Daten in deinem Auftrag. Dafür brauchst du einen Vertrag nach Art. 28 DSGVO.
- Datenübermittlung: Sitzt der Anbieter außerhalb der EU, etwa in den USA, muss die Übermittlung abgesichert sein. Viele Anbieter bieten inzwischen eine Verarbeitung in der EU an.
- Transparenz: Betroffene müssen erfahren, dass und wofür ihre Daten verarbeitet werden. Das gehört in die Datenschutzerklärung.
- Keine automatischen Entscheidungen mit großer Tragweite: Entscheidungen, die Menschen erheblich betreffen, etwa über eine Bewerbung, dürfen nach Art. 22 DSGVO grundsätzlich nicht allein von einer Maschine getroffen werden.
- Folgenabschätzung bei hohem Risiko: Verarbeitet die KI viele sensible Daten oder bewertet sie Menschen, ist oft eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig.
Wichtig für die Praxis: Prüfe, ob der Anbieter Eingaben zum Training seiner Modelle verwendet. Für Unternehmensdaten sollte das vertraglich ausgeschlossen sein.
Wie ordnet der EU AI Act KI-Systeme ein?
| Risikoklasse | Beispiele | Was gilt |
|---|---|---|
| Unannehmbares Risiko | Social Scoring, manipulative Systeme, Emotionserkennung am Arbeitsplatz | Verboten |
| Hohes Risiko | KI in der Personalauswahl, bei Kreditentscheidungen oder in kritischer Infrastruktur | Strenge Pflichten: Risikomanagement, Dokumentation, menschliche Aufsicht |
| Transparenzpflichten | Chatbots, KI-generierte Bilder, Videos und Texte | Menschen müssen erkennen können, dass sie mit KI interagieren oder KI-Inhalte sehen |
| Minimales Risiko | Spamfilter, Textassistenten für interne Entwürfe, Dokumentenauswertung | Keine besonderen Pflichten aus dem AI Act |
Die meisten Anwendungen im Mittelstand fallen in die beiden unteren Klassen. Wer KI aber zum Beispiel einsetzt, um Bewerbungen vorzusortieren, bewegt sich schnell im Hochrisiko-Bereich.
Welche Fristen gelten?
Der AI Act gilt stufenweise. Mit dem sogenannten AI-Omnibus (Verordnung (EU) 2026/1744, in Kraft seit Juli 2026) hat die EU einige Fristen verschoben. Stand November 2026:
| Seit / ab | Was gilt |
|---|---|
| 2. Februar 2025 | Verbotene KI-Praktiken; Pflicht, KI-Kompetenz der Mitarbeitenden zu fördern |
| 2. August 2025 | Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
| 2. August 2026 | Transparenzpflichten, etwa Hinweis auf Chatbots und Kennzeichnung von KI-Inhalten |
| 2. Dezember 2027 | Pflichten für Hochrisiko-Systeme nach Anhang III, etwa im Personalbereich |
| 2. August 2028 | Pflichten für Hochrisiko-KI in regulierten Produkten nach Anhang I |
Quellen: Verordnung (EU) 2024/1689, Übersicht zum AI-Omnibus, Future of Privacy Forum.
Was bedeutet KI-Kompetenz für dein Team?
Unternehmen, die KI einsetzen, sollen Maßnahmen ergreifen, damit ihre Mitarbeitenden KI sachkundig nutzen können (Art. 4 AI Act). Ein bestimmtes Zertifikat ist dafür nicht vorgeschrieben. In der Praxis heißt das: Wer mit KI arbeitet, sollte wissen, was das Werkzeug kann, wo es Fehler macht, welche Daten hineindürfen und wann ein Ergebnis geprüft werden muss. Eine kurze, dokumentierte Schulung und eine interne KI-Richtlinie sind ein guter Anfang.
Was Art. 4 genau verlangt und was der AI-Omnibus 2026 daran geändert hat, erklärt der Artikel KI-Schulungspflicht nach Art. 4 AI Act.
Checkliste für die Praxis
- Lege fest, welche KI-Tools im Unternehmen erlaubt sind und für welche Zwecke.
- Prüfe für jedes Tool: Wo werden die Daten verarbeitet, gibt es einen Vertrag zur Auftragsverarbeitung, werden Eingaben zum Training genutzt?
- Gib keine sensiblen Kunden- oder Personaldaten in Tools ein, die dafür nicht freigegeben sind.
- Ordne jeden Anwendungsfall einer Risikoklasse des AI Act zu.
- Kennzeichne Chatbots und KI-generierte Inhalte, die nach außen gehen.
- Schule dein Team und halte die Schulung fest.
- Aktualisiere deine Datenschutzerklärung, wenn KI personenbezogene Daten verarbeitet.
- Beziehe deinen Datenschutzbeauftragten früh ein.
Ein Beispiel aus dem Alltag: Kundenanfragen mit KI vorsortieren

Angenommen, eine KI soll eingehende E-Mails an den Kundenservice lesen, nach Thema sortieren und einen Antwortentwurf vorschlagen. So sieht die Prüfung in der Praxis aus:
- Welche Daten? Namen, E-Mail-Adressen und Bestellnummern, gelegentlich auch mehr, etwa wenn Kunden von sich aus Gesundheitsangaben machen. Es handelt sich also um personenbezogene Daten.
- Rechtsgrundlage: Die Bearbeitung von Anfragen dient meist der Erfüllung eines Vertrags oder einem berechtigten Interesse. Das ist im Einzelfall festzuhalten.
- Anbieter: Der KI-Dienst arbeitet als Auftragsverarbeiter. Ein Vertrag nach Art. 28 DSGVO, Verarbeitung in der EU und der Ausschluss des Trainings mit deinen Daten gehören in die Auswahlkriterien.
- Datenminimierung: Signaturen, Telefonnummern und Anhänge, die für die Sortierung nicht nötig sind, werden vorher entfernt.
- Mensch in der Schleife: Die KI schlägt vor, ein Mensch prüft und schickt ab. Damit bleibt die Entscheidung beim Team.
- AI Act: Die Sortierung ist ein Fall mit geringem Risiko. Antwortet die KI dagegen direkt und automatisch, muss für Kunden erkennbar sein, dass sie mit einer KI kommunizieren.
- Dokumentation: Der Vorgang kommt in das Verzeichnis der Verarbeitungstätigkeiten, die Datenschutzerklärung wird ergänzt.
So entsteht aus einer vagen Sorge eine überschaubare Liste, die sich vor dem Start abarbeiten lässt.
Typische Fehler
- Private KI-Konten für Firmendaten. Wer Kundendaten in ein privates Konto eines KI-Dienstes kopiert, hat weder Vertrag noch Kontrolle darüber, was mit den Daten passiert.
- Datenschutz erst nach dem Pilot prüfen. Stellt sich spät heraus, dass der gewählte Anbieter nicht passt, beginnt die Arbeit von vorn.
- Alle Daten mitschicken, weil es einfacher ist. Mehr Daten bedeuten mehr Risiko, aber selten bessere Ergebnisse.
- Keine Regeln für das Team. Ohne interne Richtlinie entscheidet jede Person selbst, was in welches Tool darf.
- KI-Inhalte ohne Kennzeichnung veröffentlichen. Seit August 2026 gelten die Transparenzpflichten des AI Act.
Wo findest du verlässliche Hinweise?
Die deutschen Datenschutzaufsichtsbehörden haben gemeinsam Leitfäden veröffentlicht, die konkreter sind als der Gesetzestext:
- Die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz (Mai 2024) richtet sich an Unternehmen, die KI-Anwendungen auswählen und nutzen.
- Die Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei KI-Systemen (Juni 2025) beschreibt, was bei Entwicklung und Betrieb von KI-Systemen zu beachten ist.
So gehen wir bei uberneu vor
Bei jeder KI-Integration denken wir Datenschutz von Anfang an mit: Wir wählen Modelle und Anbieter passend zu deinen Daten, setzen auf Datenminimierung und klären die Einstufung nach AI Act, bevor gebaut wird. Für die rechtliche Prüfung im Einzelfall arbeitest du am besten mit deinem Datenschutzbeauftragten oder einer Kanzlei zusammen.




