Auf einen Blick: DSGVO-konforme KI erfordert eine Rechtsgrundlage, einen AVV und eine DSFA. Die meisten Cloud-KI-Tools erfüllen diese Anforderungen nur bedingt. On-Premise-KI eliminiert Drittlandtransfer, AVV-Pflicht und Training durch Dritte vollständig.
Anfang 2025 startete der Bundesdatenschutzbeauftragte (BfDI) eine öffentliche Konsultation zur datenschutzrechtlichen Bewertung von KI-Modellen. Der Hintergrund: Seit 2024 häufen sich Beschwerden von Mitarbeitern, deren personenbezogene Daten ohne AVV und ohne Datenschutz-Folgenabschätzung an OpenAI-Server in den USA übermittelt wurden. Parallel verschärfte die italienische Datenschutzbehörde ihre Maßnahmen gegen OpenAI — ein Signal für ganz Europa. Seit dem Schrems-II-Urteil und dem Inkrafttreten des EU AI Act stehen europäische Unternehmen vor einer klaren Frage — wie sieht DSGVO-konforme KI in der Praxis aus?
Die Antwort ist weniger kompliziert, als die meisten Anbieter es darstellen. Aber sie erfordert, dass man versteht, wo die tatsächlichen Risiken liegen — und wo nicht.
Was macht KI DSGVO-relevant?
Nicht jede KI-Nutzung ist datenschutzrechtlich problematisch. Der entscheidende Punkt: Werden personenbezogene Daten verarbeitet? Wenn ein Mitarbeiter allgemeine Fragen an ChatGPT stellt — etwa „Erkläre mir die Bilanzierungsregeln nach HGB” — ist das unkritisch. Sobald aber Kundennamen, E-Mail-Adressen, Mitarbeiterdaten oder Vertragsinhalte in ein KI-System eingehen, greifen die Pflichten der DSGVO.
Die drei zentralen Anforderungen:
1. Rechtsgrundlage (Art. 6 DSGVO) Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage. Bei KI-Tools kommen in der Regel Art. 6 Abs. 1 lit. f (berechtigtes Interesse) oder lit. a (Einwilligung) in Frage. Bei sensiblen Daten (Gesundheit, Gewerkschaftszugehörigkeit) gelten die verschärften Regeln nach Art. 9 DSGVO.
2. Auftragsverarbeitung (Art. 28 DSGVO) Wenn ein externer KI-Anbieter Daten verarbeitet, brauchen Sie einen Auftragsverarbeitungsvertrag (AVV). Bei US-Anbietern wie OpenAI, Google oder Microsoft kommt hinzu: Nach dem Schrems-II-Urteil reichen Standardvertragsklauseln ohne ergänzende Schutzmaßnahmen nicht aus, wenn der Anbieter dem US CLOUD Act unterliegt. Das betrifft praktisch alle großen Cloud-KI-Dienste.
3. Datenschutz-Folgenabschätzung (Art. 35 DSGVO) Bei „hohem Risiko” für die Rechte der Betroffenen ist eine DSFA Pflicht. KI-Systeme, die Mitarbeiter oder Kunden bewerten, profilieren oder automatisiert Entscheidungen treffen, fallen regelmäßig darunter. Die Blacklist der deutschen Aufsichtsbehörden listet konkret auf, wann eine DSFA notwendig ist.
Wo die meisten Unternehmen scheitern
Die technischen Anforderungen der DSGVO sind klar. Trotzdem scheitern Unternehmen regelmäßig an drei Stellen:
Problem 1: Unkontrollierter Datenabfluss
Mitarbeiter nutzen ChatGPT, DeepL, Gemini — ohne AVV, ohne DSFA, ohne Genehmigung. Das ist Schatten-KI. Laut Microsoft Work Trend Index 2024 nutzen 75 % der Wissensarbeiter KI — und 78 % bringen eigene, nicht genehmigte Tools mit. Kein AVV der Welt hilft, wenn die IT-Abteilung nicht weiß, welche Tools genutzt werden.
Problem 2: Training mit Unternehmensdaten
Cloud-KI-Anbieter nutzen eingegebene Daten häufig zum Modelltraining — es sei denn, der Nutzer widerspricht aktiv. OpenAI bietet seit 2024 auch für die kostenlose Version ein Training-Opt-out an — allerdings ist es nicht standardmäßig aktiviert, und die Wirksamkeit ist nicht unabhängig überprüfbar. Das bedeutet: Ohne aktives Eingreifen können Ihre vertraulichen Daten in Antworten an andere Nutzer auftauchen. OpenAI hat das in seinen Nutzungsbedingungen bestätigt.
Problem 3: Drittlandtransfer
Jeder Datentransfer an einen US-Anbieter ist ein Drittlandtransfer nach Art. 44 ff. DSGVO. Seit Schrems-II gibt es kein Angemessenheitsbeschluss-Äquivalent, das uneingeschränkt trägt. Das EU-US Data Privacy Framework (DPF) wurde zwar 2023 verabschiedet, steht aber bereits unter juristischem Beschuss — Max Schrems hat angekündigt, auch dieses Abkommen vor dem EuGH anzufechten.
DSGVO-konforme KI: Die 4 Optionen
| Option | DSGVO-Status | Kontrolle | Kosten | Für wen? |
|---|---|---|---|---|
| Cloud-KI mit AVV (z.B. Azure OpenAI Enterprise, Microsoft Copilot) | Bedingt konform — Drittlandtransfer bleibt Risiko | Mittel | Hoch (pro Nutzer/Token) | Unternehmen ohne sensible Daten |
| EU-Cloud-KI (z.B. Aleph Alpha, Mistral via EU-Hosting) | Besser — kein Drittlandtransfer | Mittel | Hoch | Unternehmen mit EU-Präferenz |
| On-Premise-KI (schlüsselfertige Appliance) | Vollständig konform — keine externe Verarbeitung | Voll | Niedrig (keine Per-User-Kosten) | Unternehmen mit hohen Compliance-Anforderungen |
| Open-Source lokal (z.B. Llama, Mistral selbst gehostet) | Vollständig konform | Voll | Variabel (eigene Infrastruktur nötig) | Unternehmen mit IT-Kapazität |
Die Entscheidung hängt von zwei Faktoren ab: Wie sensibel sind Ihre Daten, und wie viel IT-Kapazität haben Sie?
Für die meisten Mittelständler ist die Antwort: sensible Daten ja, eigene KI-Infrastruktur aufbauen nein. Genau dafür gibt es schlüsselfertige On-Premise-Lösungen.
Checkliste: Ist Ihre KI-Nutzung DSGVO-konform?
On-Premise als Königsweg
On-Premise-KI eliminiert die drei größten DSGVO-Probleme auf einen Schlag:
Kein Drittlandtransfer. Kein Byte verlässt Ihr Netzwerk. Art. 44 ff. DSGVO ist nicht anwendbar, weil keine Übermittlung stattfindet.
Kein AVV nötig. Sie verarbeiten die Daten selbst — es gibt keinen externen Auftragsverarbeiter. Art. 28 DSGVO greift nicht.
Kein Training durch Dritte. Lokale Modelle gehören Ihnen. Niemand trainiert mit Ihren Daten. Das Risiko, dass vertrauliche Informationen in fremden Antworten auftauchen, existiert nicht.
Am Beispiel On-Premise-Lösungen wie contboxx Vault: Die Plattform wird als schlüsselfertige Appliance geliefert — NVIDIA-Hardware, vorinstallierte LLMs, 40+ Integrationen. Verbindet sich mit SharePoint, Confluence, SAP, Slack. Alles lokal. In 6 Wochen live. ISO 27001:2022 zertifiziert.
Der TCO-Vergleich zwischen Cloud- und On-Premise-KI zeigt dramatische Unterschiede — insbesondere bei der Skalierung auf mehrere hundert Nutzer.
DSGVO-konforme KI testen contboxx Vault: On-Premise, Made in Germany, ab 6 Wochen produktiv. Keine Daten in der Cloud. Kostenlose Demo buchen
EU AI Act: Was zusätzlich zur DSGVO gilt
Seit 2024 ergänzt der EU AI Act die DSGVO um KI-spezifische Pflichten. Für Unternehmen, die KI einsetzen (als „Deployer”), bedeutet das:
- Risikoklassifizierung: Jedes KI-System muss einer Risikoklasse zugeordnet werden (minimal, begrenzt, hoch, inakzeptabel)
- Dokumentationspflicht: Hochrisiko-KI erfordert technische Dokumentation, Konformitätsbewertung und CE-Kennzeichnung
- Schulungspflicht (Art. 4): Alle Mitarbeiter, die mit KI arbeiten, müssen geschult werden
- Transparenzpflicht: Nutzer müssen wissen, wenn sie mit einem KI-System interagieren
Die Bußgelder: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes. Anders als die DSGVO, die sich primär auf Daten fokussiert, reguliert der EU AI Act das System selbst — unabhängig davon, ob personenbezogene Daten verarbeitet werden.
Häufig gestellte Fragen
Ist ChatGPT DSGVO-konform?
Bedingt. OpenAI bietet einen AVV an und ist unter dem EU-US Data Privacy Framework zertifiziert. ChatGPT Enterprise hat ein Training-Opt-out. Bei der kostenlosen Version und Plus bestehen weiterhin Bedenken: Daten können zum Training genutzt werden, und der Drittlandtransfer bleibt juristisch angreifbar.
Brauche ich eine Datenschutz-Folgenabschätzung für KI?
In vielen Fällen ja. Art. 35 DSGVO verlangt eine DSFA, wenn die Verarbeitung ein hohes Risiko birgt — etwa bei systematischer Bewertung, Profilierung oder automatisierten Entscheidungen. Die Datenschutzkonferenz hat eine Muss-Liste veröffentlicht. Im Zweifel: DSFA durchführen.
Welche KI-Anbieter sind DSGVO-konform?
Vollständig konform sind nur Lösungen ohne externen Datenabfluss: On-Premise-KI oder selbst gehostete Open-Source-Modelle. EU-gehostete Cloud-Dienste sind ein Kompromiss mit geringerem Risiko. US-Anbieter wie OpenAI oder Microsoft sind mit AVV und DPF nutzbar, aber der Drittlandtransfer bleibt ein Restrisiko.
Was passiert bei einem DSGVO-Verstoß durch KI-Nutzung?
Bußgelder nach Art. 83 DSGVO: bis zu 20 Mio. EUR oder 4 % des weltweiten Jahresumsatzes. Dazu kommen Schadensersatzansprüche nach Art. 82 DSGVO. Verantwortlich ist das Unternehmen, nicht der Mitarbeiter. Bei KI-spezifischen Verstößen drohen zusätzlich Strafen nach dem EU AI Act.
Fazit
DSGVO-konforme KI ist kein Widerspruch — aber sie erfordert bewusste Entscheidungen. Wer Cloud-KI nutzt, muss AVVs prüfen, DSFAs durchführen und den Drittlandtransfer absichern. Wer On-Premise wählt, eliminiert diese Probleme strukturell.
Für deutsche Mittelständler mit sensiblen Daten und begrenzter IT-Kapazität ist eine schlüsselfertige On-Premise-Lösung der pragmatischste Weg: maximale Compliance bei minimalem Aufwand.