Im April 2023 haben Samsung-Entwickler proprietären Quellcode in ChatGPT eingefügt, um einen Bug zu debuggen. Dieser Code liegt jetzt in den Trainingsdaten von OpenAI. Samsungs Reaktion: generative KI für alle Mitarbeiter verboten. Da war der Schaden längst entstanden (Bloomberg, Mai 2023).
Das ist kein Samsung-Problem. Genau dasselbe passiert gerade in jedem deutschen Unternehmen. Vertragsentwürfe wandern in Claude. Kundenlisten in ChatGPT. Bewerbungen werden mit irgendeinem Gratis-Tool vorsortiert, das ein HR-Manager letzte Woche entdeckt hat. Die IT sieht es nicht. Der Betriebsrat wurde nicht gefragt. Eine DSFA gibt es nicht. Und die Rechtsabteilung erfährt es erst, wenn die Meldepflicht auf dem Tisch liegt.
Das ist Schatten-KI.
Was Schatten-KI wirklich ist
Schatten-KI bedeutet: Mitarbeiter nutzen KI-Tools, die die IT nie freigegeben hat. Es ist die Fortsetzung der Schatten-IT — nur mit deutlich schärferen Zähnen.
Schatten-IT war ein Software-Workaround. Jemand hat Dropbox statt SharePoint genutzt, Trello statt Jira. Ärgerlich, meist eingrenzbar. Schatten-KI ist anders: Unternehmensdaten verlassen das Haus, landen auf US-Servern unter dem CLOUD Act und tauchen möglicherweise im Modell wieder auf, das ein Wettbewerber im nächsten Quartal nutzt.
Fünf Dinge, die gerade jemand tut, ohne es jemandem zu sagen:
- Eine Kundenliste in ChatGPT einfügen für eine „schnelle Segmentierung”
- Vertragsentwürfe in Claude hochladen, um die „Haftungsklausel mal eben prüfen zu lassen”
- Interne Markenrichtlinien als Prompt in Midjourney werfen
- Proprietären Code in Copilot kippen, um „den Bug schneller zu fixen”
- Bewerbungen mit einem Gratis-KI-Tool vorsortieren, dessen Nutzungsbedingungen niemand in HR gelesen hat
In jedem Fall: eine Datenübermittlung außerhalb des Unternehmens. Dauerhaft. Unwiderruflich. Häufig Trainingsmaterial für das Modell von jemand anderem.
Warum Schatten-KI schlimmer ist als Schatten-IT je war
DSGVO-Verstöße — und zwar keine theoretischen
Jedes Mal, wenn jemand personenbezogene Daten in ein Cloud-KI-Tool eingibt, ist das eine Übermittlung nach Art. 28 DSGVO. Kein AVV vorhanden? Bereits rechtswidrig. Mit dem Schrems-II-Urteil helfen Standardvertragsklauseln auch nicht mehr gegen den CLOUD Act.
Die Durchsetzung läuft:
- Die italienische Garante hat ChatGPT im März 2023 gesperrt.
- Die französische CNIL und die italienische Garante haben laufende Verfahren gegen KI-Anbieter.
- Die BfDI greift inzwischen KI-spezifische Beschwerden auf.
Obergrenze nach Art. 83 DSGVO: 20 Mio. EUR oder 4 % des globalen Jahresumsatzes. Was mehr weh tut, gilt.
EU AI Act: ein Dokumentationsproblem, das Sie so nicht lösen können
Der EU AI Act legt die Latte höher. Sie müssen nachweisen können, welche KI-Systeme Sie einsetzen, wie diese klassifiziert sind und welche Risikoanalyse Sie durchgeführt haben. Schatten-KI ist per Definition undokumentiert. Sie können nichts risikobewerten, von dem Sie nicht wissen, dass es existiert.
Bußgeldobergrenze: 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes. Plus die Schulungspflicht nach Art. 4 — die voraussetzt, dass Sie wissen, was Ihre Mitarbeiter überhaupt nutzen.
Betriebsrat — ein Mitbestimmungsproblem, das sich rückwirkend nicht reparieren lässt
Diesen Punkt übersehen die meisten Compliance-Teams. Nach § 87 Abs. 1 Nr. 6 BetrVG hat der Betriebsrat ein Mitbestimmungsrecht bei technischen Einrichtungen, die geeignet sind, Verhalten oder Leistung der Mitarbeiter zu überwachen. KI-Tools fallen praktisch immer darunter.
Wenn die IT endlich merkt, dass die halbe Belegschaft seit 18 Monaten ChatGPT nutzt, sagt der Betriebsrat nicht „regeln wir das halt ab jetzt”. Sondern: „Sie haben unser Mitbestimmungsrecht umgangen.” Und haftbar ist der Arbeitgeber, nicht der einzelne Mitarbeiter.
Ihre Daten sind jetzt Trainingsdaten
Was ein Mitarbeiter in ein kostenloses ChatGPT-Konto eingibt, darf zum Training künftiger Modelle verwendet werden — sofern nicht explizit widersprochen wurde. In der Gratis-Version geht das nicht sauber. Bei Samsung tauchte vertraulicher Quellcode Berichten zufolge bereits in der Sitzung eines anderen Nutzers auf, bevor das Verbot kam.
Die Zahlen, bevor jemand sagt „so schlimm ist es nicht”
- 75 % der Wissensarbeiter nutzen KI am Arbeitsplatz — die Mehrheit ohne offizielle Freigabe (Microsoft Work Trend Index 2024)
- 38 % geben sensible Arbeitsdaten in KI-Tools ein, von denen ihr Arbeitgeber nichts weiß (Salesforce-Studie 2024)
- 60 % der IT-Verantwortlichen sehen Schatten-KI als ernstes Sicherheitsrisiko (Bitkom 2025)
- 12 % der deutschen Mittelständler haben eine verbindliche KI-Richtlinie (DIHK Digitalisierungsumfrage 2025)
Übersetzt: Die Nutzung ist der Governance davongelaufen. Deutlich.
Fünf Maßnahmen, die tatsächlich wirken
Verbote nicht. Wer ChatGPT an der Firewall sperrt, sieht die Leute in der Mittagspause am Handy. Die einzige Strategie, die hält: Geben Sie Ihren Mitarbeitern ein kontrolliertes Werkzeug, das mindestens so nützlich ist wie das gerade verbotene.
1. Eine KI-Richtlinie schreiben, die Leute auch befolgen
Kein 40-seitiges PDF, das niemand öffnet. Ein kurzes Dokument, das genau festlegt, welche Tools erlaubt sind, welche Daten wohin dürfen und was passiert, wenn man sich nicht daran hält. Damit das funktioniert, braucht die Richtlinie:
- Freigabe durch den Betriebsrat (§ 87 BetrVG geht nicht weg)
- Eine Positivliste genehmigter Tools — nicht nur eine Negativliste
- Datenklassifizierung („öffentlich / intern / vertraulich / reguliert”) und welche Stufe in welches Tool darf
- Einen Schulungsplan, der Art. 4 EU AI Act erfüllt
2. Eine Alternative bereitstellen, die das verbotene Tool schlägt
Genau diesen Schritt überspringen die meisten Richtlinien. Mitarbeiter greifen nicht zu ChatGPT, weil sie leichtsinnig sind. Sie greifen zu, weil die internen Tools schlechter sind.
Geben Sie ihnen etwas Besseres. On-Premise-Lösungen wie contboxx Vault docken direkt an die bestehenden Systeme an — SharePoint, Confluence, SAP — und führen die Inferenz auf Ihrer eigenen Infrastruktur aus. Keine Daten in fremden Clouds, keine AVV-Notfälle, kein Schrems-II-Problem.
3. Technische Kontrollen einführen — aber sich nicht darauf verlassen
- DNS-Sperren für bekannte KI-Dienste. Nützlich als Stolperdraht, nicht als Mauer.
- DLP-Regeln, die auf KI-Uploads getunt sind. Fängt die größeren Lecks. Einen Screenshot nicht.
- Netzwerk-Monitoring auf KI-API-Endpunkte. Zeigt, welches Team was nutzt.
Das sind Sensoren, keine Lösungen.
4. Schulen statt bestrafen
Die Schulungspflicht aus Art. 4 EU AI Act ist die seltene Compliance-Regel, die zugleich gutes Change Management ist. Wer Schatten-KI nutzt, ist nicht böswillig. Sie wollen schneller fertig werden. Zeigen Sie ihnen das echte Risiko — Samsung, Kundendaten-Lecks, DSGVO-Bußgelder, die den Arbeitgeber treffen, nicht sie selbst — und zeigen Sie ihnen die freigegebene Alternative.
Praxis-Workshop > PowerPoint > nichts. In dieser Reihenfolge.
5. Ein KI-Inventar aufbauen, bevor jemand danach fragt
Der EU AI Act verlangt es ohnehin. Kommen Sie zuvor: Dokumentieren Sie jedes KI-System im Einsatz, offiziell oder nicht. Tools wie Microsoft Purview helfen; durch die Etagen laufen und nachfragen auch. Das Ziel ist kein perfektes Inventar an Tag eins. Es geht darum, von „wir haben keine Ahnung” zu „wir wissen es, und wir steuern” zu kommen.
Sie wollen wissen, wie Ihr Unternehmen KI nutzt — ohne die Kontrolle über Daten zu verlieren? contboxx Vault ist die souveräne KI-Plattform, bei der kein Byte das Netz verlässt. DSGVO-konform, EU AI Act-ready, live in 6 Wochen.
Schatten-KI vs. kontrollierte KI: nebeneinander
| Kriterium | Unkontrollierte Cloud-KI | Kontrollierte Enterprise-KI |
|---|---|---|
| Datenspeicherung | US-Cloud, CLOUD Act greift | On-Premise, Ihre Infrastruktur |
| DSGVO-Konformität | Fragwürdig bis rechtswidrig | Vollständig konform |
| EU AI Act | Nicht dokumentierbar | Vollständig auditierbar |
| Betriebsrat | Nicht eingebunden (und jetzt haben Sie ein Problem) | Mitbestimmung von Tag eins |
| Kosten | Pro Nutzer, pro Monat, pro Token | Einmalig, keine Nutzerlimits |
| Datenleck-Risiko | Hoch — Training, Logs, Vorfälle | Kein externer Datenabfluss |
| Integration | Copy & Paste | Direkte Konnektoren (SharePoint, Confluence, SAP, ca. 40 weitere) |
Häufig gestellte Fragen
Was ist der Unterschied zwischen Schatten-IT und Schatten-KI?
Schatten-IT war nicht freigegebene Software — Dropbox, Trello, das übliche. Schatten-KI ist schärfer: Mitarbeiter füttern Unternehmensdaten in KI-Tools, die der Arbeitgeber nie genehmigt hat. Diese Daten verlassen Ihr Netz, werden möglicherweise Trainingsmaterial und lösen DSGVO-, EU-AI-Act- und Betriebsrats-Risiken gleichzeitig aus. Die Compliance-Rechnung ist deutlich höher.
Ist die Nutzung von ChatGPT am Arbeitsplatz ein DSGVO-Verstoß?
Allgemeine Fragen ohne personenbezogene Daten? Unkritisch. Sobald Kundennamen, E-Mail-Adressen oder Mitarbeiterdaten eingegeben werden, übermitteln Sie personenbezogene Daten an OpenAI in den USA — ohne AVV, ohne DSFA. Das verstößt gegen Art. 28 und Art. 35 DSGVO. Haftbar ist der Arbeitgeber, nicht der Mitarbeiter, der die Tabelle eingefügt hat.
Wie erkennen wir Schatten-KI überhaupt?
Netzwerk-Monitoring auf KI-API-Endpunkten erfasst den offensichtlichen Verkehr. DLP-Regeln mit KI-Tuning fangen die größeren Lecks. Anonyme Mitarbeiter-Umfragen liefern, was Tools nicht zeigen. Nichts davon wirkt so gut wie eine offizielle Alternative — Schatten-KI existiert, weil die freigegebene Option fehlt.
Was kostet es, Schatten-KI durch eine kontrollierte Lösung zu ersetzen?
Hängt von Unternehmensgröße, Integrationen und tatsächlichem Wissensarbeitsvolumen ab. Die eigentliche Frage ist nicht der Plattformpreis — sondern was ein DSGVO-Vorfall kostet: bis zu 20 Mio. EUR oder 4 % des Jahresumsatzes. Ein vermiedener Vorfall amortisiert die Plattform mehrfach.
Fazit
Schatten-KI lässt sich nicht verbieten. Nur kanalisieren. Jedes Unternehmen, das heute keine kontrollierte Alternative bereitstellt, wird ein Datenschutzproblem, ein Compliance-Problem und ein Betriebsrats-Problem bekommen — meist in dieser Reihenfolge, meist innerhalb desselben Quartals.
Die Lösung ist nicht weniger KI. Sondern bessere: souverän, lokal, unter Ihrer Kontrolle. Wer jetzt handelt, gewinnt zweifach — das rechtliche Risiko fällt, und die Mitarbeiter bekommen ein Werkzeug, das tatsächlich ihre Daten kennt, statt nur das öffentliche Internet von 2024 wiederzugeben.
So funktioniert souveräne KI in der Praxis → | KI im Büroalltag — 8 Anwendungen →