Ratgeber · KI

KI und Datenschutz: Was DSGVO und EU AI Act für Unternehmen bedeuten

Datenschutz ist kein Grund, auf KI zu verzichten. Er ist ein Grund, sie von Anfang an richtig zu planen. Ein Überblick über die Regeln, die für die meisten Unternehmen zählen.
Illustration: Vorhängeschloss und Schutzschild vor einem Netzwerk aus Datenpunkten
Kurz gesagt

Für KI im Unternehmen gelten zwei Regelwerke. Die DSGVO regelt, wie personenbezogene Daten verarbeitet werden dürfen, auch durch KI. Der EU AI Act ordnet KI-Systeme nach Risiko ein und stellt je nach Klasse Pflichten auf. Für die meisten Anwendungen im Mittelstand, etwa Textassistenten oder Dokumentenauswertung, heißt das: Daten sparsam einsetzen, Verträge mit Anbietern prüfen, Mitarbeitende schulen und offenlegen, wenn Menschen mit einer KI sprechen.

Welche Regeln gelten für KI im Unternehmen?

Zwei EU-Regelwerke sind für die meisten Unternehmen entscheidend:

  • Die Datenschutz-Grundverordnung (DSGVO) gilt immer dann, wenn personenbezogene Daten verarbeitet werden, also Namen, E-Mail-Adressen, Kundendaten oder Informationen über Mitarbeitende. Es spielt keine Rolle, ob ein Mensch oder eine KI sie verarbeitet.
  • Der EU AI Act (Verordnung (EU) 2024/1689) regelt KI-Systeme selbst. Er ist seit dem 1. August 2024 in Kraft und gilt stufenweise.

Dazu kommen je nach Anwendung weitere Regeln, etwa zum Urheberrecht, zum Arbeitsrecht bei KI im Personalbereich oder branchenspezifische Vorgaben. Dieser Artikel gibt einen Überblick und ersetzt keine Rechtsberatung.

Was verlangt die DSGVO beim Einsatz von KI?

Illustration: Dokument mit geschwärzten Zeilen in Schwarz, Cyan und Mint, daneben ein gelber Stempel
  1. Rechtsgrundlage: Jede Verarbeitung personenbezogener Daten braucht eine Grundlage nach Art. 6 DSGVO, zum Beispiel einen Vertrag, ein berechtigtes Interesse oder eine Einwilligung.
  2. Datenminimierung: Die KI bekommt nur die Daten, die sie für die Aufgabe braucht. Oft lassen sich Namen und Kennungen vorher entfernen oder ersetzen.
  3. Auftragsverarbeitung: Nutzt du einen externen KI-Dienst, verarbeitet dieser die Daten in deinem Auftrag. Dafür brauchst du einen Vertrag nach Art. 28 DSGVO.
  4. Datenübermittlung: Sitzt der Anbieter außerhalb der EU, etwa in den USA, muss die Übermittlung abgesichert sein. Viele Anbieter bieten inzwischen eine Verarbeitung in der EU an.
  5. Transparenz: Betroffene müssen erfahren, dass und wofür ihre Daten verarbeitet werden. Das gehört in die Datenschutzerklärung.
  6. Keine automatischen Entscheidungen mit großer Tragweite: Entscheidungen, die Menschen erheblich betreffen, etwa über eine Bewerbung, dürfen nach Art. 22 DSGVO grundsätzlich nicht allein von einer Maschine getroffen werden.
  7. Folgenabschätzung bei hohem Risiko: Verarbeitet die KI viele sensible Daten oder bewertet sie Menschen, ist oft eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig.

Wichtig für die Praxis: Prüfe, ob der Anbieter Eingaben zum Training seiner Modelle verwendet. Für Unternehmensdaten sollte das vertraglich ausgeschlossen sein.

Wie ordnet der EU AI Act KI-Systeme ein?

RisikoklasseBeispieleWas gilt
Unannehmbares RisikoSocial Scoring, manipulative Systeme, Emotionserkennung am ArbeitsplatzVerboten
Hohes RisikoKI in der Personalauswahl, bei Kreditentscheidungen oder in kritischer InfrastrukturStrenge Pflichten: Risikomanagement, Dokumentation, menschliche Aufsicht
TransparenzpflichtenChatbots, KI-generierte Bilder, Videos und TexteMenschen müssen erkennen können, dass sie mit KI interagieren oder KI-Inhalte sehen
Minimales RisikoSpamfilter, Textassistenten für interne Entwürfe, DokumentenauswertungKeine besonderen Pflichten aus dem AI Act

Die meisten Anwendungen im Mittelstand fallen in die beiden unteren Klassen. Wer KI aber zum Beispiel einsetzt, um Bewerbungen vorzusortieren, bewegt sich schnell im Hochrisiko-Bereich.

Welche Fristen gelten?

Der AI Act gilt stufenweise. Mit dem sogenannten AI-Omnibus (Verordnung (EU) 2026/1744, in Kraft seit Juli 2026) hat die EU einige Fristen verschoben. Stand November 2026:

Seit / abWas gilt
2. Februar 2025Verbotene KI-Praktiken; Pflicht, KI-Kompetenz der Mitarbeitenden zu fördern
2. August 2025Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
2. August 2026Transparenzpflichten, etwa Hinweis auf Chatbots und Kennzeichnung von KI-Inhalten
2. Dezember 2027Pflichten für Hochrisiko-Systeme nach Anhang III, etwa im Personalbereich
2. August 2028Pflichten für Hochrisiko-KI in regulierten Produkten nach Anhang I

Quellen: Verordnung (EU) 2024/1689, Übersicht zum AI-Omnibus, Future of Privacy Forum.

Was bedeutet KI-Kompetenz für dein Team?

Unternehmen, die KI einsetzen, sollen Maßnahmen ergreifen, damit ihre Mitarbeitenden KI sachkundig nutzen können (Art. 4 AI Act). Ein bestimmtes Zertifikat ist dafür nicht vorgeschrieben. In der Praxis heißt das: Wer mit KI arbeitet, sollte wissen, was das Werkzeug kann, wo es Fehler macht, welche Daten hineindürfen und wann ein Ergebnis geprüft werden muss. Eine kurze, dokumentierte Schulung und eine interne KI-Richtlinie sind ein guter Anfang.

Was Art. 4 genau verlangt und was der AI-Omnibus 2026 daran geändert hat, erklärt der Artikel KI-Schulungspflicht nach Art. 4 AI Act.

Checkliste für die Praxis

  • Lege fest, welche KI-Tools im Unternehmen erlaubt sind und für welche Zwecke.
  • Prüfe für jedes Tool: Wo werden die Daten verarbeitet, gibt es einen Vertrag zur Auftragsverarbeitung, werden Eingaben zum Training genutzt?
  • Gib keine sensiblen Kunden- oder Personaldaten in Tools ein, die dafür nicht freigegeben sind.
  • Ordne jeden Anwendungsfall einer Risikoklasse des AI Act zu.
  • Kennzeichne Chatbots und KI-generierte Inhalte, die nach außen gehen.
  • Schule dein Team und halte die Schulung fest.
  • Aktualisiere deine Datenschutzerklärung, wenn KI personenbezogene Daten verarbeitet.
  • Beziehe deinen Datenschutzbeauftragten früh ein.

Ein Beispiel aus dem Alltag: Kundenanfragen mit KI vorsortieren

Illustration: Briefumschläge, sortiert in drei farbige Ablagekörbe, ein Umschlag schwebt darüber

Angenommen, eine KI soll eingehende E-Mails an den Kundenservice lesen, nach Thema sortieren und einen Antwortentwurf vorschlagen. So sieht die Prüfung in der Praxis aus:

  • Welche Daten? Namen, E-Mail-Adressen und Bestellnummern, gelegentlich auch mehr, etwa wenn Kunden von sich aus Gesundheitsangaben machen. Es handelt sich also um personenbezogene Daten.
  • Rechtsgrundlage: Die Bearbeitung von Anfragen dient meist der Erfüllung eines Vertrags oder einem berechtigten Interesse. Das ist im Einzelfall festzuhalten.
  • Anbieter: Der KI-Dienst arbeitet als Auftragsverarbeiter. Ein Vertrag nach Art. 28 DSGVO, Verarbeitung in der EU und der Ausschluss des Trainings mit deinen Daten gehören in die Auswahlkriterien.
  • Datenminimierung: Signaturen, Telefonnummern und Anhänge, die für die Sortierung nicht nötig sind, werden vorher entfernt.
  • Mensch in der Schleife: Die KI schlägt vor, ein Mensch prüft und schickt ab. Damit bleibt die Entscheidung beim Team.
  • AI Act: Die Sortierung ist ein Fall mit geringem Risiko. Antwortet die KI dagegen direkt und automatisch, muss für Kunden erkennbar sein, dass sie mit einer KI kommunizieren.
  • Dokumentation: Der Vorgang kommt in das Verzeichnis der Verarbeitungstätigkeiten, die Datenschutzerklärung wird ergänzt.

So entsteht aus einer vagen Sorge eine überschaubare Liste, die sich vor dem Start abarbeiten lässt.

Typische Fehler

  • Private KI-Konten für Firmendaten. Wer Kundendaten in ein privates Konto eines KI-Dienstes kopiert, hat weder Vertrag noch Kontrolle darüber, was mit den Daten passiert.
  • Datenschutz erst nach dem Pilot prüfen. Stellt sich spät heraus, dass der gewählte Anbieter nicht passt, beginnt die Arbeit von vorn.
  • Alle Daten mitschicken, weil es einfacher ist. Mehr Daten bedeuten mehr Risiko, aber selten bessere Ergebnisse.
  • Keine Regeln für das Team. Ohne interne Richtlinie entscheidet jede Person selbst, was in welches Tool darf.
  • KI-Inhalte ohne Kennzeichnung veröffentlichen. Seit August 2026 gelten die Transparenzpflichten des AI Act.

Wo findest du verlässliche Hinweise?

Die deutschen Datenschutzaufsichtsbehörden haben gemeinsam Leitfäden veröffentlicht, die konkreter sind als der Gesetzestext:

So gehen wir bei uberneu vor

Bei jeder KI-Integration denken wir Datenschutz von Anfang an mit: Wir wählen Modelle und Anbieter passend zu deinen Daten, setzen auf Datenminimierung und klären die Einstufung nach AI Act, bevor gebaut wird. Für die rechtliche Prüfung im Einzelfall arbeitest du am besten mit deinem Datenschutzbeauftragten oder einer Kanzlei zusammen.

Mehr zu unserem Angebot: KI-Beratung & Integration

FAQ

Häufige Fragen

Darf ich ChatGPT und ähnliche Tools im Unternehmen nutzen?

Grundsätzlich ja. Entscheidend ist, welche Daten eingegeben werden und unter welchen Bedingungen. Für Unternehmensdaten eignen sich Business-Versionen mit Vertrag zur Auftragsverarbeitung und ohne Nutzung der Eingaben zum Training. Personenbezogene oder vertrauliche Daten gehören nicht in private Konten.

Muss ich meine Kunden informieren, wenn ein Chatbot antwortet?

Ja. Nach dem AI Act müssen Menschen erkennen können, dass sie mit einer KI kommunizieren, sofern das nicht ohnehin offensichtlich ist. Ein klarer Hinweis im Chatfenster reicht in der Regel aus.

Fällt mein KI-Projekt unter die Hochrisiko-Regeln?

Die meisten Anwendungen wie Textassistenten, Dokumentenauswertung oder interne Wissenssuche nicht. Hochrisiko betrifft vor allem KI, die über Menschen entscheidet oder sie bewertet, etwa bei Bewerbungen, Krediten oder in kritischer Infrastruktur. Im Zweifel lohnt eine Prüfung vor dem Start.

Kann ich KI DSGVO-konform mit Kundendaten nutzen?

Ja, wenn die Grundlagen stimmen: Rechtsgrundlage, Vertrag zur Auftragsverarbeitung, Verarbeitung möglichst in der EU, nur die nötigen Daten und eine aktualisierte Datenschutzerklärung. Oft lassen sich Kundendaten vor der Verarbeitung pseudonymisieren.

Brauche ich eine interne KI-Richtlinie?

Gesetzlich vorgeschrieben ist sie nicht, aber sehr zu empfehlen. Eine kurze Richtlinie legt fest, welche Tools erlaubt sind, welche Daten hineindürfen und wann Ergebnisse geprüft werden müssen. Sie hilft auch dabei, die Pflicht zur KI-Kompetenz aus dem AI Act nachweisbar umzusetzen.

Muss ich KI-generierte Texte kennzeichnen?

Der AI Act verlangt eine Kennzeichnung vor allem bei künstlich erzeugten oder veränderten Bildern, Videos und Tonaufnahmen, die echt wirken, sowie bei KI-Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren und nicht redaktionell geprüft wurden. Texte, die ein Mensch prüft und verantwortet, fallen in der Regel nicht darunter. Im Zweifel ist ein offener Hinweis die sichere Wahl.

Kontakt

KI einsetzen, aber sicher? Lass uns sprechen.

Du suchst nach einer digitalen Agentur auf Augenhöhe? Schreib uns deine Anfrage oder erstelle direkt einen Termin für ein kostenfreies Erstgespräch. Wir melden uns in Kürze!
Jetzt Termin buchen
Porträt von Ben in der Natur um Lübeck

Benjamin Ansbach

Experte für technische Produktentwicklung (Full-Stack)
ben@uberneu.com
Porträt von Sebastian im Berliner Office

Sebastian Rühl

Experte für ProduktEntwicklung & Design
sebastian@uberneu.com
Name*
E-mail*
FIRMA
Anfrage*
Ja, ich habe die Datenschutzerklärung zur Kenntnis genommen und bin damit einverstanden, dass die Daten elektronisch gespeichert werden. Meine Daten werden nur zur Bearbeitung und Beantwortung meiner Anfragen genutzt. Mit dem Absenden erkläre ich mich mit der Verarbeitung einverstanden.

🥳
.
Yay! Danke für die Nachricht.
Wir melden uns bald bei dir.
Ups! Da ist wohl etwas schief gelaufen.
Versuche es gleich noch einmal oder schriebe uns direkt an hi@uberneu.com