Direkt zum Inhalt
Ethik & Recht Level: Praktiker

Datenschutz bei KI: Was die DSGVO 2026 wirklich von dir verlangt

DSGVO und KI 2026: Welche Daten ChatGPT, Claude und Gemini speichern, welche Opt-outs verbindlich sind, wann ein Auftragsverarbeitungsvertrag Pflicht ist und welche EU-Hosting-Alternativen es 2026 wirklich gibt.

Anna Weidner · Aktualisiert 23. Mai 2026
Datenschutz bei KI 2026 — Symbol-Illustration: DSGVO-Schild, Datenfluss zwischen Nutzer, Cloud-Anbieter und EU-Rechenzentrum, mit Opt-out-Hinweisen und Artikel-Verweisen.

Warum Datenschutz bei KI jetzt operative Realität ist

Drei Entwicklungen machen das Thema 2026 unumgehbar. Erstens haben die europäischen Datenschutzbehörden den Ton verschärft. Die italienische Garante per la protezione dei dati personali hat OpenAI im Dezember 2024 ein Bußgeld von 15 Mio. Euro auferlegt — wegen fehlender Rechtsgrundlage, unzureichender Altersverifikation und unklarer Transparenz gegenüber Betroffenen. Die irische Data Protection Commission untersucht seit 2024 mehrere US-Anbieter parallel, und die Datenschutzkonferenz (DSK) der deutschen Aufsichtsbehörden hat im Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht, die für KMU als faktischer Mindeststandard gilt.

Zweitens ist KI im Mittelstand angekommen. Repräsentative Studien aus DACH zeigen, dass 2026 über zwei Drittel der Unternehmen mit mehr als 50 Mitarbeitenden mindestens einen produktiven KI-Use-Case betreiben — viele davon ohne formalisierte Governance. Ein einziger Mitarbeitender, der einen Bewerber-Lebenslauf in ChatGPT-Free pastet, ist nach Art. 28 und Art. 6 DSGVO bereits ein Compliance-Vorfall.

Drittens überlappen sich ab August 2026 zwei Compliance-Regimes. Der EU AI Act (Verordnung 2024/1689) klassifiziert Recruiting-, Kredit- und Gesundheits-KI als hochriskant und verlangt Konformitätsbewertung, Bias-Tests und Human Oversight. Parallel gilt die DSGVO mit ihrem ganzen Pflichten-Katalog. Wer 2026 nicht weiß, in welchem System welche Pflicht greift, läuft in eine doppelte Sanktions-Spur — Bußgelder bis 7 Prozent Jahresumsatz (EU AI Act) plus bis 4 Prozent Jahresumsatz (DSGVO), nicht alternativ, sondern kumulativ.

Dieser Leitfaden leistet drei Dinge: eine konkrete Tool-Vergleichstabelle Datenschutz mit Stand-Datum, eine strukturierte Antwort auf die zehn am häufigsten gestellten Fragen zum Thema, und eine 5-Schritte-Compliance-Roadmap. Was er ausdrücklich nicht leistet, sollte vorweg gesagt sein: Er ersetzt keine Rechtsberatung im Einzelfall, keine Konformitätsbewertung für regulierte Branchen und keine Datenschutz-Folgenabschätzung (DSFA). Dafür ist am Ende ein expliziter Disclaimer mit Verweis auf Datenschutzbeauftragte und Fach-Anwälte angebracht.

Tool-Vergleich: Datenschutz-Stand der großen KI-Anbieter

Die folgende Tabelle zeigt den Datenschutz-Stand der fünf wichtigsten KI-Anbieter im DACH-Markt 2026. Sie ist primärer Citation-Anker — Anbieter-Settings ändern sich monatlich, deshalb gilt: vor jedem Vertragsabschluss die aktuelle Anbieter-Doku prüfen.

AnbieterEU-HostingOpt-out Training (Default)AV im Free-TarifEmpfehlung für KMU
ChatGPT (OpenAI)Enterprise: ja (EU-Datenresidenz) · Free/Plus: nein (US)Opt-out manuell · Default: anNeinAb Team-Tier (AV inkl., Training pauschal aus)
Claude (Anthropic)Enterprise: AWS EU-Regionen wählbar · Free: USOpt-out manuell · Default: an für Free, aus für WorkspaceNeinWorkspace- oder Enterprise-Tier
Gemini (Google)Workspace: EU-Datenresidenz · Free: globalWorkspace: Training off default · Free: aktivNeinWorkspace Business+/Enterprise
Mistral Le Chat (FR)Ja — Hosting in FrankreichLe Chat Pro: Training off defaultLimitierter AV bei Le Chat FreeLe Chat Pro oder La Plateforme API
Aleph Alpha (DE)Ja — Hosting in DeutschlandStandardmäßig kein Training mit KundendatenDPA StandardDirekt — DSGVO-First-Design

Stand: Mai 2026. Vor produktivem Einsatz Anbieter-DPA und Settings-Page verifizieren — Defaults ändern sich monatlich.

Drei Befunde aus der Tabelle verdienen Aufmerksamkeit. Erstens: kein einziger US-Frontier-Anbieter hat im Free-Tarif einen Auftragsverarbeitungsvertrag — für jeden Firmen-Einsatz mit personenbezogenen Daten ist mindestens Team-/Workspace-Tier Pflicht. Zweitens: Training-Opt-out ist bei allen US-Anbietern Opt-in für den Nutzer — wer nichts tut, wird trainiert mit. Drittens: echte EU-Souveränität bieten 2026 nur Mistral und Aleph Alpha — Microsofts „EU Data Boundary“ und „EU Datenresidenz“ reduzieren das Risiko, eliminieren es wegen CLOUD Act aber nicht.

Was ändert KI an der DSGVO-Lage?

Die DSGVO gilt seit 2018 — KI war damals schon mitgedacht. Was sich 2026 ändert, ist die Praxis. Drei Hebel verschieben das Risiko: die Datenmenge (LLMs schlucken jeden Prompt), die Verarbeitungs-Tiefe (Training schreibt Daten in Modell-Gewichte) und die Reichweite (jeder Mitarbeitende ist potenzieller Verantwortlicher).

Konkret betroffen sind sechs DSGVO-Vorschriften besonders. Art. 6 (Rechtsgrundlage) — wer personenbezogene Daten verarbeitet, braucht eine Grundlage: Einwilligung, Vertrag, berechtigtes Interesse. Bei generativer KI ist „berechtigtes Interesse“ oft die einzige Option, die Interessenabwägung muss aber dokumentiert sein. Art. 9 (Besondere Kategorien) — Gesundheits-, Religions-, Gewerkschafts- und Sexualdaten dürfen nur unter strengen Ausnahmen verarbeitet werden. Wer ein LLM Patientenbriefe sortieren lässt, ist hier sofort drin. Art. 13/14 (Informationspflichten) — Betroffene müssen wissen, welche Daten wo verarbeitet werden. Art. 22 (Automatisierte Einzelentscheidungen) — mit Rechtswirkung gegen den Betroffenen ohne ausdrückliche Einwilligung verboten. Art. 28 (Auftragsverarbeitung) — DPA-Pflicht. Art. 35 (DSFA) — bei systematischer und umfangreicher Verarbeitung. Wer diese sechs Artikel beim Tool-Einsatz nicht reflexartig im Kopf hat, wird im Audit Schwierigkeiten haben.

Wichtig: Die DSGVO kennt keinen KI-Sonderstatus. Sie behandelt einen LLM-Anbieter wie jeden anderen Cloud-Provider. Das hat zwei Konsequenzen. Erstens: Die Mechanik (AV, DSFA, Betroffenenrechte) ist bekannt, die meisten KMU haben sie für Office 365 oder Salesforce schon einmal durchgespielt. Zweitens: Es gibt keine Erleichterungen, nur Anwendung. Wer „aber das ist doch nur ChatGPT“ denkt, hat den juristischen Status missverstanden — ChatGPT Free ist datenschutzrechtlich kein Spielzeug, sondern ein US-Cloud-Service mit allen daraus folgenden Pflichten.

Welche Daten speichern ChatGPT, Claude und Gemini wirklich?

Die ehrliche Antwort variiert pro Anbieter und Tarif. Stand Mai 2026:

OpenAI ChatGPT. Free und Plus speichern Chats standardmäßig dauerhaft und nutzen sie für Modell-Training. „Temporary Chat“ entfernt den History-Eintrag, das Backend hält die Konversation aber 30 Tage zur Missbrauchs-Erkennung. Team und Enterprise: keine Verwendung für Training (vertraglich zugesichert im DPA), Aufbewahrungsfrist pro Workspace konfigurierbar zwischen 0 und 30 Tagen. Memory-Feature speichert zusätzlich Nutzer-Profil-Daten — Opt-out unter Settings → Personalization → Memory.

Anthropic Claude. Free-Konversationen werden standardmäßig 30 Tage gespeichert und können für Training und Safety-Forschung verwendet werden. Workspace- und Enterprise-Kunden: kein Training mit Eingaben, Aufbewahrung konfigurierbar. Anthropic hat öffentlich kommuniziert, dass Conversation-Daten nicht zur Modell-Verbesserung beigetragen werden — das gilt aber explizit nur für zahlende Tiers.

Google Gemini. Im Free-Account werden Aktivitäten bis 18 Monate gespeichert (Standard) und für Training genutzt. Workspace-Accounts haben Training standardmäßig deaktiviert — Datenresidenz EU verfügbar. Wichtig: Gemini-Free-Konversationen werden zusätzlich von menschlichen Annotatoren geprüft, wie Google selbst dokumentiert. Sensible Inhalte gehören dort nicht hinein.

Mistral Le Chat. Le Chat Pro speichert Konversationen ausschließlich zur Auslieferung, kein Training mit Kundendaten als Standard. Le Chat Free: limitierter Datenschutz, kein voller DPA — vor Firmen-Einsatz prüfen.

Aleph Alpha. DSGVO-First-Design: kein Training mit Kundendaten, deutsche Server, voll-skalierter DPA Standard. Trade-off: kleinere Modell-Performance als US-Frontier-Modelle, aber für regulierte Branchen oft der einzig gangbare Weg.

Ein Detail wird oft übersehen: Selbst wenn Training aus ist, behält der Anbieter eine Logs-Retention (typischerweise 30 Tage) für Sicherheits- und Abuse-Erkennung. Diese Daten unterliegen ebenfalls der DSGVO — der DPA muss sie abdecken.

Wann brauche ich einen Auftragsverarbeitungsvertrag (AV)?

Die einfache Antwort: immer dann, wenn personenbezogene Daten in den Prompt fließen können. Das ist in der Praxis schneller der Fall, als man denkt. Ein Mitarbeitender, der eine Bewerber-E-Mail in ChatGPT zur Antwort-Formulierung paste — AV-pflichtig. Eine Vertriebs-Assistenz, die Kundennamen in einen Marketing-Text-Generator eingibt — AV-pflichtig. Selbst die Verarbeitung eigener Mitarbeiter-Daten (Arbeits-E-Mails, Personalstammdaten) durch ein LLM ist AV-pflichtig.

Der AV-Vertrag nach Art. 28 DSGVO regelt acht Punkte:

  1. Gegenstand und Dauer der Verarbeitung
  2. Art und Zweck (z. B. „Textgenerierung auf Basis Nutzer-Prompts“)
  3. Art der personenbezogenen Daten (z. B. „Namen, Kontaktdaten, sonstige Eingaben“)
  4. Kategorien betroffener Personen (Mitarbeitende, Kunden, Dritte)
  5. Pflichten und Rechte des Verantwortlichen (also dein Unternehmen)
  6. Technisch-organisatorische Maßnahmen (TOM) des Auftragsverarbeiters
  7. Sub-Prozessor-Liste mit Genehmigungspflicht
  8. Lösch- und Rückgabepflichten am Vertragsende

Die großen Anbieter haben standardisierte DPAs: OpenAI Enterprise DPA, Anthropic Commercial DPA, Google Workspace Data Processing Amendment, Microsoft Online Services DPA. Bei Free-Tarifen verweigern alle US-Anbieter den DPA — das ist datenschutzrechtlich ein Showstopper für Firmen-Einsatz.

Praktischer Tipp: Im AV-Audit auf drei Punkte achten. Erstens, Sub-Prozessor-Liste — wenn OpenAI Microsoft Azure einsetzt und Microsoft seinerseits Subunternehmer hat, vermehrt sich die Verantwortungs-Kette. Zweitens, Datenresidenz-Klausel — „EU Data Boundary“ ist nicht dasselbe wie „Verarbeitung ausschließlich in der EU“; manche Anbieter erlauben fallback zu US-Servern bei Lastspitzen. Drittens, Insolvenz- und Termination-Klauseln — was passiert mit den Daten, wenn der Vertrag endet oder der Anbieter zahlungsunfähig wird?

Wie deaktiviere ich Training mit meinen Daten? (Opt-out pro Tool)

Drei wichtige Vorbemerkungen. Erstens, Opt-out gilt nur ab dem Moment der Aktivierung — bereits trainierte Daten sind nicht rückholbar. Zweitens, Opt-out ist bei Free-Tarifen meist möglich, bei manchen Plus-Tarifen aber nicht für jede Funktion (z. B. Memory). Drittens, Opt-out reicht juristisch nicht aus, wenn der Tarif keinen AV-Vertrag hat — er ist hygienische Mindestmaßnahme, nicht Substitut für DPA.

ChatGPT (OpenAI):

  • Settings → Data Controls → „Improve the model for everyone“ deaktivieren
  • Settings → Personalization → Memory deaktivieren (oder einzelne Erinnerungen löschen)
  • Temporary Chat für sensible Konversationen (keine History, dennoch 30-Tage-Backend-Retention)

Claude (Anthropic):

  • Settings → Privacy → Data Sharing → „Help improve Claude“ deaktivieren
  • Bei Workspace-Konten: zusätzlich Admin-Setting prüfen — Training ist dort default off

Gemini (Google):

  • myactivity.google.com → „Gemini Apps Activity“ deaktivieren
  • Alternativ: Workspace-Account nutzen — Training ist default off, EU-Datenresidenz für Business+/Enterprise

Microsoft Copilot:

  • Im M365-Tenant: Admin Center → Settings → Copilot → „Allow Microsoft to use my prompts to improve Copilot“ aus
  • Default seit 2025: out für Business- und Enterprise-Tenants

Mistral Le Chat:

  • Le Chat Pro: Default kein Training
  • Settings → Privacy verifizieren

Wichtig für die Praxis: Diese Settings müssen pro Konto gesetzt werden. Bei 50 Mitarbeitenden ist das ohne zentrale Tool-Verwaltung organisatorisch fragil. Wer es ernst meint, dokumentiert die Settings als Teil des Onboarding-Prozesses und prüft sie im jährlichen Datenschutz-Audit nach.

Welche KI-Anbieter haben echtes EU-Hosting?

Hier hilft eine begriffliche Trennung. EU-Hosting heißt: die Server stehen physisch in der EU. EU-Datenresidenz heißt: die Datenverarbeitung findet in EU-Rechenzentren statt, der Anbieter kann aber außerhalb sitzen. EU-konform ist die rechtliche Bewertung — und sie ist nicht automatisch mit Hosting oder Datenresidenz gegeben, weil der CLOUD Act US-Behörden Zugriff auf Daten von US-Unternehmen ermöglicht, auch wenn diese in der EU gespeichert sind.

Stand 2026 ergibt sich dreistufiges Bild:

Stufe 1 — EU-Hosting plus EU-Mutterkonzern (höchste Souveränität):

  • Mistral AI (Paris, Frankreich): Le Chat Pro plus La Plateforme API, EU-Hosting Standard
  • Aleph Alpha (Heidelberg, Deutschland): Luminous-Modelle, On-Prem optional, DSGVO-First-Design
  • DeepL (Köln, Deutschland): Translator und Write — kein Frontier-LLM, aber für Übersetzung und Stil DSGVO-konform
  • Helsing, Black Forest Labs (FLUX), Stability AI (UK-Mutter, nicht voll-EU)

Stufe 2 — EU-Datenresidenz mit US-Mutterkonzern (gut, aber CLOUD-Act-Risiko):

  • Microsoft 365 Copilot mit EU Data Boundary
  • Azure OpenAI Service in EU-Regionen (West Europe, North Europe, France Central, Sweden Central)
  • ChatGPT Enterprise mit EU-Datenresidenz-Add-on (seit Februar 2024)
  • Google Gemini Workspace mit EU-Datenresidenz
  • Anthropic Claude über AWS Bedrock EU-Regionen

Stufe 3 — globales Hosting, kein verlässlicher EU-Schutz:

  • ChatGPT Free / Plus
  • Claude Free
  • Gemini Free / Apps Activity
  • Perplexity Free
  • Free-Tarife der meisten US-Anbieter

Für die meisten KMU ist Stufe 2 ein vertretbarer Kompromiss — die Frontier-Modell-Qualität ist meist nur dort verfügbar, und das Restrisiko aus CLOUD Act lässt sich durch Pseudonymisierung sensitiver Daten weiter reduzieren. Für Branchen mit besonderen Schutzanforderungen — Gesundheit, Justiz, Verteidigung, kritische Infrastruktur — bleibt Stufe 1 der sichere Hafen. Der Trade-off: kleinere Modelle, geringere multimodale Tiefe, weniger Ecosystem-Integrationen.

Darf ich personenbezogene Daten in den Prompt schreiben?

Kurzantwort: Es kommt darauf an, welche Daten und in welchen Tarif. Ausführlich:

Eigene Daten (deine berufliche E-Mail-Adresse, dein Lebenslauf): ja, jederzeit — du bist selbst der Betroffene.

Mitarbeiter-Daten (Beurteilungen, Krankheitsdaten, Gehaltsstrukturen): nur in Enterprise-Tier mit AV-Vertrag, EU-Datenresidenz und konkretem Zweck. DSFA wahrscheinlich erforderlich.

Kundendaten (Namen, Kontaktdaten, Verträge): Enterprise-Tier mit AV, ggf. Anonymisierung vor Eingabe. Datenschutzhinweis an Kunden empfohlen, falls KI in der Verarbeitung mitwirkt.

Bewerber-Daten (Lebensläufe, Anschreiben, Notizen aus Interviews): heikel. Recruiting-KI ist Hochrisiko-Anwendung nach EU AI Act. Konformitätsbewertung, Bias-Audit und ausdrückliche Einwilligung der Bewerbenden Pflicht. Tools wie HireVue oder Pymetrics sind in der EU 2024–2026 mehrfach abgemahnt worden.

Besondere Kategorien nach Art. 9 (Gesundheit, Religion, sexuelle Orientierung, Gewerkschaftszugehörigkeit, biometrische Daten): niemals in Free-Tarif-Prompts. Auch in Enterprise-Tarifen nur mit expliziter Rechtsgrundlage (Art. 9 Abs. 2 DSGVO) — typischerweise Einwilligung oder gesetzliche Ermächtigung. Praktisch: für sensible Patienten-, Mitglieds- oder Personalakten-Daten kommt nur EU-Hosting-Anbieter (Mistral Pro, Aleph Alpha) oder On-Prem-LLM in Frage.

Faustregel: Wenn du den Datensatz nicht ohne juristischen Beistand an einen US-Cloud-Anbieter senden würdest, dann gehört er auch nicht in ChatGPT Plus. Die Mediumsänderung verändert die Rechtslage nicht.

Was passiert, wenn ich gegen die DSGVO verstoße?

Die DSGVO kennt zwei Bußgeldstufen (Art. 83):

  • Stufe 1 — bis 10 Mio. Euro oder 2 Prozent des weltweiten Jahresumsatzes (höherer Wert): Verstöße gegen formale Pflichten wie Auftragsverarbeitung, DSFA, Meldepflichten
  • Stufe 2 — bis 20 Mio. Euro oder 4 Prozent des weltweiten Jahresumsatzes: Verstöße gegen Grundsätze, Rechtsgrundlagen, Betroffenenrechte, besondere Kategorien

Praktisch bemisst sich das Bußgeld nach 13 Kriterien (Art. 83 Abs. 2): Art und Schwere, Vorsatz/Fahrlässigkeit, Minderung des Schadens, Kooperation mit der Aufsichtsbehörde, Wiederholung, technisch-organisatorische Maßnahmen. Für KMU realistisch sind 5 000 bis 250 000 Euro pro Vorfall — abhängig vom Datenumfang. Für Konzerne werden zweistellige Millionen-Beträge erreicht (Meta 1,2 Mrd. Euro 2023, TikTok 345 Mio. Euro 2023, OpenAI 15 Mio. Euro 2024).

Daneben drohen drei weitere Risiko-Kanäle:

  1. Schadensersatz nach Art. 82 — Betroffene können materielle und immaterielle Schäden geltend machen. Der EuGH hat 2023 (Az. C-300/21) klargestellt, dass bereits der Kontrollverlust über eigene Daten ein ersatzfähiger Schaden sein kann.
  2. Abmahnungen durch Verbraucherschutzverbände — vor allem bei B2C-Anwendungen.
  3. Reputationsschaden — die italienische Sperre von ChatGPT 2023 hat OpenAI Wochen lang Schlagzeilen gekostet.

Und seit 2026: zusätzlich EU-AI-Act-Strafen für Hochrisiko-Anwendungen — bis 35 Mio. Euro oder 7 Prozent Jahresumsatz. Diese Stufen sind kumulativ: Wer im Recruiting eine biased KI ohne DSFA und ohne AV einsetzt, kann nach beiden Regimes parallel sanktioniert werden.

EU AI Act vs. DSGVO: wo überschneiden sie sich?

Die Kurzformel: DSGVO regelt, was mit Daten passiert. Der EU AI Act regelt, was Modelle dürfen. Sie ergänzen sich, sie ersetzen sich nicht.

Was beide tun:

  • Risikobasierter Ansatz (DSGVO: Risiko für Betroffene; AI Act: Risiko des Systems)
  • Pflicht zur Folgenabschätzung (DSGVO: DSFA Art. 35; AI Act: Fundamental Rights Impact Assessment für Hochrisiko)
  • Human-Oversight-Anforderungen (DSGVO: Art. 22 bei automatisierten Entscheidungen; AI Act: Art. 14 für Hochrisiko)
  • Dokumentations- und Transparenzpflichten

Was nur die DSGVO regelt:

  • Rechtsgrundlage für jede Datenverarbeitung
  • Betroffenenrechte (Auskunft, Berichtigung, Löschung)
  • Auftragsverarbeitung (Art. 28)
  • Meldepflicht bei Datenschutz-Vorfällen (Art. 33, 72 Stunden)

Was nur der EU AI Act regelt:

  • Verbot bestimmter KI-Praktiken (Social Scoring, manipulative Subliminal-Techniken, biometrische Echtzeit-Identifikation)
  • Konformitätsbewertung für Hochrisiko-Systeme (CE-Kennzeichnung)
  • GPAI-Pflichten für Allzweck-KI-Anbieter
  • Transparenzpflichten für generative Inhalte (Wasserzeichen, Deepfake-Kennzeichnung)
  • AI-Literacy-Schulungspflicht (Art. 4) — seit 2. Februar 2025 in Kraft

Praktische Konsequenz: Wer 2026 ein KI-Tool im Hochrisiko-Bereich einsetzt, braucht doppelte Dokumentation: DSFA nach DSGVO und Konformitätsbewertung nach AI Act. Die Inhalte überschneiden sich teilweise (Risikoanalyse, technische Maßnahmen), die formale Trennung muss aber sauber sein. Mehr zum AI Act im Cluster-Hub: EU AI Act (wird im Sommer 2026 ausgebaut).

Wie sieht eine KI-Nutzungsrichtlinie für KMU aus?

Eine pragmatische Richtlinie hat sieben Bausteine — alles andere ist Beiwerk:

  1. Geltungsbereich. Für wen gilt die Richtlinie (alle Mitarbeitenden inkl. Freelancer und Praktikanten)? Welche Tätigkeiten umfasst sie (jeder KI-Einsatz im Arbeitskontext, auch private Tools für Arbeitszwecke)?
  2. Freigegebene Tools (Whitelist). Mit Tarif-Stufe — z. B. „ChatGPT Team via Single-Sign-On“. Alle nicht-gelisteten Tools sind explizit untersagt. Anti-Shadow-AI-Maßnahme.
  3. Verbotene Datenkategorien. Klare Liste: keine Klarnamen Dritter ohne Pseudonymisierung, keine Gesundheits-/Finanzdaten, keine Geschäftsgeheimnisse, keine Daten unter Art. 9 DSGVO im Free-Tier. Mit Beispielen, nicht nur abstrakten Kategorien.
  4. Opt-out-Pflicht. Mitarbeitende müssen Training-Opt-out aktivieren und dokumentieren. Onboarding-Checkliste.
  5. Output-Verantwortung. KI-Output darf nicht ungeprüft an Dritte weitergeleitet werden. Faktencheck-Pflicht bei Zahlen, Eigennamen, juristischen oder medizinischen Aussagen.
  6. Vorfall-Meldepflicht. Bei vermuteter Datenpanne (z. B. unabsichtlich Klar-Daten in Free-Tier eingegeben): innerhalb 24 Stunden Meldung an Datenschutzbeauftragten. 72-Stunden-Behördenmeldung nach Art. 33 DSGVO bleibt unberührt.
  7. Schulungs- und Review-Pflicht. Pflicht-Schulung nach Art. 4 EU AI Act mindestens jährlich, mit Dokumentation. Richtlinien-Review jährlich, weil Anbieter-Defaults sich oft ändern.

Was die Richtlinie nicht regeln muss: technische Details. Welches Modell die beste Übersetzung liefert, ist nicht Compliance-Frage, sondern Tooling-Entscheidung. Die Versuchung ist groß, eine 40-Seiten-Richtlinie zu schreiben — wirksam sind aber meist die 3-bis-5-Seiten-Varianten, die jeder Mitarbeitende tatsächlich liest. Vorlagen liefern BSI, BITKOM und der TÜV-Verband; die DSK-Orientierungshilfe ist als Bezugsrahmen brauchbar.

Verwandte Themen

Wer den breiteren Risiko-Kontext sucht, findet ihn in KI-Risiken: Vollständiger Leitfaden 2026 — Datenschutz ist dort eines von zehn Risikofeldern, eingeordnet zwischen Halluzinationen, Bias und Urheberrecht. Die regulatorische Klammer liefert der EU AI Act — er definiert die Hochrisiko-Klassifikation, die für KI-Recruiting, Kredit-Scoring und Medizin-KI parallel zur DSGVO gilt. Wer Bias als datenschutz-relevantes Risiko einordnen will, findet die Methodik in Bias und Fairness — vor allem die DSGVO-Art.-22-Verschränkung mit automatisierten Einzelentscheidungen ist dort vertieft.

Für die Praxis-Perspektive im Alltag ist KI im Alltag der Anlaufpunkt — dort steht, welche Tools mit welchem Risiko in welcher Lebenslage angemessen sind. Branchen-spezifische Vertiefung im Anwendungsbereich Gesundheit und Medizin: hier kommen Patientendatenschutz, Art. 9 DSGVO und MDR-Konformität zusammen. Für die operative Umsetzung im Audio-Kontext zeigt der Long-Form-Artikel DSGVO-konforme KI-Transkription im Mittelstand 2026 einen konkreten 5-Tage-Rollout — von Whisper lokal bis Otter.ai mit AV-Vertrag.

Weiterführend

Häufige Fragen

Ist ChatGPT DSGVO-konform?

Im Free- und Plus-Tarif: nein — kein Auftragsverarbeitungsvertrag, Training mit User-Prompts standardmäßig aktiv, US-Hosting unter CLOUD Act. Mit ChatGPT Enterprise oder ChatGPT Team: ja, weil OpenAI dort einen DPA nach Art. 28 DSGVO anbietet, Training pauschal aus ist und EU-Datenresidenz vertraglich zugesichert werden kann. Italiens Garante hat OpenAI Ende 2024 dennoch 15 Mio. Euro Bußgeld auferlegt — der Bestandsschutz bleibt fragil.

Was bedeutet „Auftragsverarbeitung“ bei KI-Tools?

Auftragsverarbeitung nach Art. 28 DSGVO heißt: Der KI-Anbieter verarbeitet personenbezogene Daten ausschließlich nach deinen Weisungen — nicht für eigene Zwecke wie Modell-Training. Das wird über einen Data Processing Agreement (DPA) vertraglich geregelt: Was wird verarbeitet, wo, wie lange, mit welchen technisch-organisatorischen Maßnahmen. Ohne unterschriebenen AV-Vertrag ist die Verarbeitung personenbezogener Firmen-Daten in Cloud-KI in praktisch allen Konstellationen unzulässig.

Speichert ChatGPT meine Prompts dauerhaft?

Im Default-Setting: ja. OpenAI speichert Free- und Plus-Konversationen mindestens 30 Tage zur Missbrauchs-Erkennung, in der Standardeinstellung darüber hinaus für Modell-Training. Im Modus „Temporary Chat“ entfällt der History-Eintrag, das Backend hält die Daten aber 30 Tage. Enterprise-Konten: keine Verwendung für Training, Aufbewahrung nach Kunden-Konfiguration (0–30 Tage). Nutzer können bestehende Chats über Settings → Data Controls → „Manage Memory“ löschen — die Trainings-Aufnahme wird damit aber nicht rückwirkend rückgängig gemacht.

Was ist der Unterschied zwischen ChatGPT Free, Plus und Enterprise beim Datenschutz?

Free und Plus: kein AV-Vertrag, Training mit Prompts ist Default-an, US-Hosting, keine Datenresidenz-Wahl. Team: AV-Vertrag, Training aus, US-Hosting. Enterprise: AV-Vertrag, Training aus, EU-Datenresidenz wählbar (seit Februar 2024), SSO und Audit-Logs. Für jede systematische Verarbeitung personenbezogener Firmendaten ist mindestens Team-Niveau Pflicht — Plus-Konten für Mitarbeitende sind Shadow-AI mit Compliance-Risiko.

Darf ich KI für die Bewerber-Auswahl nutzen?

Nur unter strengen Auflagen. Recruiting-KI ist nach Art. 6 Annex III EU-AI-Act Hochrisiko-System — ab August 2026 mit Konformitätsbewertung, Bias-Audit und Human-Oversight-Pflicht. Zusätzlich Art. 22 DSGVO: automatisierte Einzelentscheidungen mit Rechtswirkung sind ohne ausdrückliche Einwilligung verboten. Praktisch heißt das: KI für Vorauswahl ja, aber jede Ablehnung muss durch Menschen geprüft werden, und Bewerbende haben Anspruch auf Erklärung. Tools wie HireVue sind in der EU mehrfach abgemahnt worden.

Welche KI-Tools haben EU-Datenresidenz?

Echte EU-Hosting-Anbieter 2026: Mistral Le Chat (Frankreich), Aleph Alpha (Deutschland), DeepL (Deutschland). EU-Datenresidenz mit US-Mutterkonzern: Microsoft 365 Copilot EU Data Boundary, Azure OpenAI Service EU-Regionen, ChatGPT Enterprise mit EU-Datenresidenz-Add-on. Wichtig: EU-Datenresidenz schützt nicht vollständig vor US-Behördenzugriff nach CLOUD Act — wer maximale Souveränität braucht, kommt um EU-Anbieter oder On-Prem-Modelle (Llama, Mistral lokal) nicht herum.

Was muss in einer KI-Nutzungsrichtlinie stehen?

Sieben Bausteine: 1) Freigegebene Tools mit Tarif-Stufe, 2) verbotene Datenkategorien (Klarname Dritter, Gesundheits-/Finanzdaten, Geschäftsgeheimnisse im Free-Tier), 3) Pflicht zu Opt-out aus Modell-Training, 4) Eskalations-Pfad bei Vorfällen, 5) Schulungs-Pflicht nach Art. 4 EU-AI-Act, 6) Verantwortliche Person (Datenschutzbeauftragter oder AI Officer), 7) Review-Zyklus (mindestens jährlich, da Anbieter-Settings sich monatlich ändern). Eine Vorlage ohne Tool-Whitelist ist Symbolpolitik.

Brauche ich für ChatGPT-Nutzung eine Datenschutz-Folgenabschätzung (DSFA)?

Wenn personenbezogene Daten in den Prompt fließen und die Verarbeitung systematisch oder umfangreich ist: ja, Art. 35 DSGVO greift. Die Datenschutzkonferenz (DSK) hat 2024 klargestellt, dass generative KI in den meisten Firmen-Einsätzen DSFA-pflichtig ist. Konkret: Wer mehr als gelegentlich Kundendaten, Bewerberdaten oder Mitarbeiter-Daten in ein LLM eingibt, sollte eine DSFA aufsetzen — Aufwand 1–3 Tage, Risiko ohne DSFA aber bis 10 Mio. Euro Bußgeld.

Was passiert mit meinen Daten, wenn der Anbieter pleitegeht?

Im Insolvenzfall werden Kundenbestände typischerweise als Vermögenswert behandelt und können verkauft werden. Der AV-Vertrag schützt nur, wenn er Lösch- und Rückgabepflichten explizit auf den Insolvenzfall ausdehnt — viele Standard-DPAs tun das nicht. Praktische Konsequenz: Vor Vertragsabschluss prüfen, ob „Termination und Insolvency Clause“ Daten-Rückgabe und garantierte Löschung enthält. Bei US-Anbietern zusätzlich: Chapter-11-Verfahren können Datenherausgabe an Gläubiger erzwingen, das EU-Recht greift dann nur eingeschränkt.

Kann ich mein Recht auf Löschung (Art. 17 DSGVO) bei KI durchsetzen?

Eingeschränkt. Chat-Historie und gespeicherte Prompts: ja, jeder seriöse Anbieter hat einen Löschungs-Workflow (OpenAI über privacy@openai.com mit 30-Tage-Frist). Das bereits trainierte Modell selbst: praktisch nein — einmal verarbeitete Daten lassen sich aus Modell-Gewichten nicht punktuell entfernen. Anbieter argumentieren mit Art. 17 Abs. 3 DSGVO (Unmöglichkeit der Erfüllung). Wer das nicht akzeptiert, muss vor Training widersprechen, nicht danach.

Tool-Vergleich

Live-Vergleich auf einen Blick

Alle Vergleiche