Was ist Schatten-KI?

Einfach erklärt

Eine Mitarbeiterin soll eine verärgerte Kundenmail beantworten. Sie kopiert die Mail samt Name, Adresse und Auftragsnummer in einen kostenlosen KI-Chat auf ihrem Smartphone und lässt sich eine Antwort formulieren. Niemand im Betrieb weiß davon. Das ist Schatten-KI, englisch Shadow AI: Beschäftigte nutzen KI-Dienste ohne Wissen oder Freigabe des Betriebs, oft mit privaten Konten. Meist steckt keine böse Absicht dahinter, sondern der Wunsch, schneller fertig zu werden.

Was dabei passieren kann

• Daten ohne Vertrag. Personenbezogene Daten von Kunden oder Kollegen gehen an einen Anbieter, mit dem Ihr Betrieb keinen Vertrag zur Auftragsverarbeitung hat.
• Daten außerhalb der EU. Viele Dienste verarbeiten in anderen Ländern (Drittlandtransfer).
• Eingaben als Trainingsmaterial. Je nach Bedingungen und Einstellungen eines Dienstes können Eingaben zur Verbesserung künftiger Modelle verwendet werden.
• Geschäftsgeheimnisse. Kalkulationen, Angebote und Rezepturen verlassen den Betrieb.
• Ungeprüfte Ergebnisse. Niemand weiß, welche Texte von einer KI stammen und gegengelesen werden müssen.

Was hilft

Ein Verbot allein beantwortet nicht die Frage, womit die Arbeit stattdessen erledigt werden soll. Die Datenschutzaufsichtsbehörden gehen davon aus, dass eigenmächtige KI-Nutzung in vielen Betrieben schon Alltag ist. Sie und das BSI empfehlen einen geordneten Weg:

1. Ein freigegebenes Werkzeug mit dienstlichem Konto und Vertrag, bei dem das Training mit Ihren Eingaben ausgeschaltet ist.
2. Kurze, schriftliche Regeln: welches Werkzeug wofür, welche Daten nie hineingehören, wer Ergebnisse prüft. Beispiele für Erlaubtes und Verbotenes helfen.
3. Eine Einweisung für alle, die KI nutzen. Das hängt eng mit der Pflicht zur KI-Kompetenz zusammen.

Fragen Sie Ihren Datenschutzbeauftragten und Ihren IT-Dienstleister, welche Dienste schon genutzt werden und welches Werkzeug sich als Ersatz eignet. Gibt es einen Betriebsrat, gehört er dazu.

Was Regeln nicht leisten

Ein freigegebenes Werkzeug macht die Nutzung sichtbar und vertraglich geregelt, nicht fehlerfrei. Auch dort kann jemand zu viel eingeben und die KI falsch antworten (Halluzination). Eine Sperre im Firmennetz erreicht kein privates Smartphone.

Datenschutzrechtliche Einordnung

Setzt ein Betrieb den KI-Dienst eines externen Anbieters als Cloud-Lösung zu eigenen Zwecken ein, besteht nach der Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz (DSK, Version 1.0 vom 6. Mai 2024) häufig ein Auftragsverarbeitungsverhältnis nach Art. 28 DSGVO, mit Vereinbarung nach Art. 28 Abs. 3. Bei offenen Systemen, die über das Internet jedem zugänglich sind, weist sie auf häufige Übermittlungen in Drittstaaten hin (Kapitel V DSGVO). Nutzt eine Beschäftigte ein privates Konto, fehlt diese Vereinbarung.

Das BSI führt in „Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden“ (Version 2.0, 17.01.2025) als Risiko R2 die fehlende Vertraulichkeit eingegebener Daten: Der Betreiber kann auf Ein- und Ausgaben zugreifen und sie gegebenenfalls zum Training nutzen. Übernimmt ein Dienst etwa die Verwaltung eines Postfachs, erstreckt sich das Risiko auf diese Mails. Geschäftsgeheimnisse schützt § 2 Nr. 1 GeschGehG nur bei angemessenen Geheimhaltungsmaßnahmen des Inhabers.

Training und Eingabehistorie

Die DSK verlangt zu prüfen, ob Ein- und Ausgaben zum Training verwendet werden und ob sich das ausschließen lässt. Ohne Ausschluss braucht die Verarbeitung zu Trainingszwecken eine eigene Rechtsgrundlage. Für dienstliche Konten empfiehlt sie, Training und Eingabehistorie schon bei der Einrichtung abzuschalten. Die Regeln stehen in den Bedingungen des Anbieters. Zwei Beispiele, Stand Oktober 2026:

• Gemini-Apps (Google): Ist „Aktivitäten speichern“ eingeschaltet, dienen Aktivitäten auch dem Training generativer Modelle. Einen Teil der Chats prüfen Menschen.
• Claude (Anthropic), Verbraucherkonten: Chats fließen in die Modellverbesserung ein, wenn die Einstellung dafür aktiviert ist.

Für Arbeits- und Geschäftskonten verweisen beide Anbieter auf eigene Bedingungen.

Maßnahmen nach DSK und BSI

• Interne Weisung: dokumentiert, welche KI-Anwendungen wofür und unter welchen Voraussetzungen erlaubt sind, mit Beispielen (DSK Rn. 36). Die Einführung kann mitbestimmungspflichtig sein (Rn. 37).
• Dienstliche Geräte und Konten, ohne Namen einzelner Beschäftigter, mit Funktionsadresse (Rn. 41 und 42).
• Sensibilisierung durch Schulungen und Leitfäden (DSK Rn. 46, BSI M16).
• Technik: Regeln durch Sperren oder Freischalten bestimmter Dienste stützen (BSI M16).
• Risikobewertung: Bei KI-Anwendungen ist eine Datenschutz-Folgenabschätzung laut DSK vielfach erforderlich (Rn. 39).

Typische Fehler

• Geschäftskonto mit Voreinstellungen. Training, Eingabehistorie und automatische Veröffentlichung von Ergebnissen nicht geprüft.
• Private Konten geduldet. Laut DSK können so Profile zu einzelnen Beschäftigten entstehen.
• Zusatzfunktionen übersehen. Ein Dienst mit Zugriff auf Postfach oder Ablage liest mehr, als jemand eintippt.

Prüfliste für das freigegebene Werkzeug