Anfang 2025 hat der Bundesdatenschutzbeauftragte (BfDI) eine öffentliche Konsultation zu KI-Modellen gestartet. Der Auslöser war nicht theoretisch. Es war der ständige Tropfen von Beschwerden: Mitarbeiterdaten an OpenAI-Server geschickt, kein AVV, keine DSFA, niemand gefragt. Die italienische Garante hat parallel die Daumenschrauben angezogen. Das Signal für ganz Europa: Das ist jetzt Aufsichtspraxis, kein Gedankenexperiment.
Die Regeln sind klarer, als die meisten Anbieter sie klingen lassen. Schwer ist nur zu wissen, wo das echte Risiko sitzt — und wo nicht.
Wann greift die DSGVO eigentlich?
Nicht jede KI-Nutzung ist datenschutzrechtlich heikel. Die entscheidende Frage ist einfach: Werden personenbezogene Daten verarbeitet?
Ein Mitarbeiter fragt ChatGPT „erkläre mir die HGB-Bilanzierungsregeln” — unkritisch. Sobald aber ein Kundenname, eine E-Mail-Adresse, ein Mitarbeiterdatensatz oder Vertragsinhalt ins System geht, greift die DSGVO.
Drei Pflichten folgen. Es sind dieselben drei, die Anbieter gern komplizierter klingen lassen, als sie sind:
1. Rechtsgrundlage (Art. 6 DSGVO). Jede Verarbeitung braucht eine. Bei Workplace-KI in der Regel Art. 6 Abs. 1 lit. f (berechtigtes Interesse) oder lit. a (Einwilligung). Bei sensiblen Daten — Gesundheit, Gewerkschaftszugehörigkeit, alles unter Art. 9 DSGVO — liegt die Hürde deutlich höher.
2. Auftragsverarbeitung (Art. 28 DSGVO). Wenn ein externer KI-Anbieter Daten verarbeitet, brauchen Sie einen AVV. Bei US-Anbietern — OpenAI, Google, Microsoft — kommt eine zweite Schicht dazu: Nach Schrems II reichen Standardvertragsklauseln allein nicht, wenn der Anbieter dem US CLOUD Act unterliegt. Das betrifft praktisch alle großen Cloud-KI-Dienste.
3. Datenschutz-Folgenabschätzung (Art. 35 DSGVO). Pflicht, wenn die Verarbeitung „hohes Risiko” für Betroffene bedeutet. Profiling, automatisierte Entscheidungen, Mitarbeiterbewertung — das deckt den Großteil der Workplace-KI. Die deutschen Aufsichtsbehörden haben eine Muss-Liste veröffentlicht. Im Zweifel: DSFA durchführen. Billiger als das Audit.
Wo die meisten Unternehmen tatsächlich scheitern
Der Text der DSGVO ist klar. Trotzdem scheitern Unternehmen an denselben drei Stellen.
Problem 1: Schatten-KI
Mitarbeiter nutzen ChatGPT, DeepL, Gemini — ohne AVV, ohne DSFA, ohne Genehmigung. Das volle Bild steht in Schatten-KI im Unternehmen. Die Kurzfassung: Die meisten Wissensarbeiter nutzen heute KI, und der Großteil der Tools wurde nie freigegeben. Kein AVV der Welt hilft bei einem Tool, von dem die IT nichts weiß.
Problem 2: Ihre Daten trainieren ein fremdes Modell
Cloud-KI-Anbieter nutzen eingegebene Daten zum Training — sofern niemand aktiv widerspricht. OpenAI hat 2024 ein Opt-out für die kostenlose Version eingeführt, aber es ist nicht standardmäßig aktiv, und die Wirksamkeit ist nicht unabhängig prüfbar. Ohne aktives Eingreifen können vertrauliche Daten in einer fremden Sitzung wieder auftauchen. OpenAI bestätigt das in den Nutzungsbedingungen. Lesen Sie die einmal. Dann mit dem Datenschutzbeauftragten im Raum noch einmal.
Problem 3: Jeder Transfer in die USA ist ein Drittlandtransfer
Nach Art. 44 ff. DSGVO ist jeder Datentransfer an einen US-Anbieter ein Drittlandtransfer. Schrems II hat das Privacy Shield gekippt; das EU-US Data Privacy Framework, das 2023 nachgefolgt ist, steht bereits unter Beschuss — Max Schrems hat angekündigt, auch dieses Abkommen vor dem EuGH anzufechten. Das DPF trägt heute. Planen Sie so, als ob es in zwei Jahren nicht mehr trägt.
DSGVO-konforme KI: vier Optionen, sortiert
| Option | DSGVO-Status | Kontrolle | Kosten | Für wen? |
|---|---|---|---|---|
| Cloud-KI mit AVV (z.B. Azure OpenAI Enterprise, Microsoft Copilot) | Bedingt konform — Drittlandtransfer bleibt Restrisiko | Mittel | Hoch (pro Nutzer / pro Token) | Unternehmen ohne wirklich sensible Daten |
| EU-Cloud-KI (z.B. Aleph Alpha, Mistral via EU-Hosting) | Besser — kein Drittlandtransfer | Mittel | Hoch | Unternehmen mit EU-Präferenz, ohne On-Prem-Lust |
| On-Premise-KI (schlüsselfertige Appliance) | Vollständig konform — keine externe Verarbeitung | Voll | Niedrig (keine Per-User-Kosten) | Unternehmen mit hoher Compliance-Last |
| Open-Source lokal (z.B. Llama, Mistral auf eigener Hardware) | Vollständig konform | Voll | Variabel (Sie bauen die Infrastruktur) | Unternehmen mit starker interner IT |
Zwei Faktoren entscheiden. Wie sensibel sind die Daten? Wieviel IT-Kapazität steht bereit? Mittelständler antworten meist „sehr” und „wenig”. Genau diese Lücke füllen schlüsselfertige On-Premise-Lösungen.
Checkliste: Ist Ihre KI-Nutzung tatsächlich DSGVO-konform?
Warum On-Premise die Compliance-Last fast auf null drückt
On-Premise-KI reduziert die drei größten DSGVO-Probleme nicht. Es entfernt sie.
Kein Drittlandtransfer. Nichts verlässt Ihr Netzwerk. Art. 44 ff. DSGVO greift nicht, weil keine Übermittlung stattfindet.
Kein AVV für die KI. Sie verarbeiten Ihre eigenen Daten. Es gibt keinen externen Auftragsverarbeiter. Art. 28 löst nicht aus.
Kein Training durch Dritte. Das Modell gehört Ihnen. Niemand trainiert mit Ihren Daten. Das Risiko, dass ein vertraulicher Prompt in einer fremden Antwort auftaucht, existiert nicht — weil es keinen Fremden gibt.
Schlüsselfertige On-Premise-Plattformen wie contboxx Vault kommen als einsatzbereite Appliance: NVIDIA-Hardware, vorinstallierte LLMs, rund 40 Integrationen (SharePoint, Confluence, SAP, Slack). Alles bleibt lokal. In sechs Wochen live. ISO 27001:2022 zertifiziert.
Für sensible Daten und begrenzte IT-Kapazität ist das die pragmatische Entscheidung — keine ideologische. Der TCO-Vergleich zwischen Cloud- und On-Premise-KI zeigt die Mathematik, vor allem ab mehreren hundert Nutzern.
DSGVO-konforme KI testen contboxx Vault: On-Premise, made in Germany, ab sechs Wochen produktiv. Nichts in der Cloud. Kostenlose Demo buchen
EU AI Act: was zusätzlich zur DSGVO greift
Seit 2024 ergänzt der EU AI Act die DSGVO um KI-spezifische Pflichten. Für Unternehmen, die KI einsetzen („Deployer”):
- Risikoklassifizierung: Jedes System bekommt eine Stufe — minimal, begrenzt, hoch, inakzeptabel.
- Dokumentation: Hochrisiko-KI braucht technische Dokumentation, Konformitätsbewertung und CE-Kennzeichnung.
- Schulung (Art. 4): Jeder Mitarbeiter, der mit KI arbeitet, muss geschult sein. In Kraft seit Februar 2025.
- Transparenz (Art. 50): Nutzer müssen wissen, dass sie mit einer KI interagieren.
Bußgelder: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes. Die DSGVO reguliert die Daten; der EU AI Act reguliert das System. Beide greifen gleichzeitig, auch ohne personenbezogene Daten.
Häufig gestellte Fragen
Ist ChatGPT DSGVO-konform?
Bedingt. OpenAI bietet einen AVV und ist unter dem EU-US Data Privacy Framework zertifiziert. ChatGPT Enterprise hat ein Training-Opt-out. Bei der kostenlosen und Plus-Version bleiben zwei Risiken: Daten können zum Training genutzt werden, und der Drittlandtransfer bleibt juristisch angreifbar, da das DPF bereits vor Gericht angegriffen wird.
Brauche ich eine DSFA für KI?
In den meisten Workplace-KI-Fällen ja. Art. 35 DSGVO verlangt eine DSFA bei hohem Risiko — Profiling, systematische Bewertung, automatisierte Entscheidungen, Mitarbeiter-Monitoring. Die deutschen Aufsichtsbehörden haben dafür eine Muss-Liste veröffentlicht. Im Zweifel: DSFA durchführen. Günstiger als ein Audit.
Welche KI-Anbieter sind DSGVO-konform?
Vollständig konform: nur Lösungen ohne externen Datenabfluss — On-Premise-KI und selbst gehostete Open-Source-Modelle. EU-gehostete Cloud-Dienste sind der risikoärmere Mittelweg. US-Anbieter sind mit AVV plus DPF nutzbar, aber der Drittlandtransfer ist ein Restrisiko, das bereits einmal vor dem EuGH gelandet ist.
Was passiert bei einem DSGVO-Verstoß durch KI?
Bußgelder nach Art. 83 DSGVO: bis 20 Mio. EUR oder 4 % des weltweiten Umsatzes. Dazu Schadensersatzansprüche nach Art. 82. Verantwortlich ist der Arbeitgeber, nicht der Mitarbeiter, der die Daten eingefügt hat. Bei KI-spezifischen Verstößen stapeln sich EU-AI-Act-Strafen darauf — bis 35 Mio. EUR oder 7 %.
Fazit
DSGVO-konforme KI ist kein Widerspruch. Es braucht bewusste Entscheidungen. Cloud-KI heißt: AVV-Prüfungen, DSFAs und Drittlandtransfer als permanenter Workload. On-Premise heißt: Die meisten dieser Probleme hören auf, Probleme zu sein.
Für europäische Mittelständler mit sensiblen Daten und begrenzter IT ist schlüsselfertiges On-Premise die pragmatische Antwort: maximale Compliance, minimaler Aufwand.