Was ist generative KI?

Einfach erklärt

In der Poststelle sortiert jemand Briefe: Rechnung, Lieferschein, Werbung. Ein Texter dagegen schreibt neue Briefe. Viele klassische KI-Anwendungen sind Sortierer. Sie erkennen Spam, ordnen Dokumente einer Art zu oder sagen einen Wert voraus. Generative KI ist der Texter. Sie erzeugt etwas, das es vorher nicht gab: einen Text, ein Bild, eine Tonspur oder Programmcode. Beide lernen aus Beispielen. Der Unterschied liegt darin, was am Ende herauskommt.

Das bekannteste Beispiel sind Sprachmodelle hinter Chatprogrammen. Dazu kommen Bildgeneratoren, Sprachausgabe mit künstlichen Stimmen und Programmierhilfen.

Woran Sie es im Betrieb merken

• Mitarbeitende lassen Mails, Angebotstexte oder Social-Media-Beiträge vorformulieren.
• Office- und Mailprogramme schlagen ganze Absätze vor.
• Bilder für Website und Prospekt kommen aus einem Generator statt aus einer Bilddatenbank.
• Texte klingen glatt und einheitlich, auch dort, wo Fakten nicht stimmen.

Was Sie regeln sollten

Klären Sie, welche Dienste genutzt werden dürfen und welche Daten hinein dürfen. Sonst entsteht Schatten-KI. Legen Sie fest, wer erzeugte Inhalte vor der Veröffentlichung prüft. Ob und wie Sie KI-erzeugte Inhalte kennzeichnen müssen, regelt die KI-Verordnung. Was dabei für wen gilt, erklärt die Seite KI-Kennzeichnungspflicht. Ansprechpartner sind Ihr IT-Dienstleister, Ihr Datenschutzbeauftragter oder ein KI-Beauftragter, falls Sie einen benannt haben.

Was generative KI nicht leistet

Sie erzeugt Plausibles, nicht Geprüftes. Ein Text kann eine Frist, einen Preis oder eine Quelle erfinden, siehe Halluzination. Sie klärt auch keine Rechte: Ein erzeugtes Bild kann einem geschützten Werk ähneln. Die fachliche Freigabe bleibt bei Ihnen.

Erzeugen statt Vorhersagen

Für generative KI gibt es keine formale Definition. Das Machine-Learning-Glossar von Google beschreibt sie als Modelle, die komplexe, zusammenhängende und neue Inhalte erzeugen, und grenzt sie von prädiktivem Machine Learning ab. Ein Klassifikationsmodell liefert dort eine Klasse, ein Regressionsmodell eine Zahl. NIST AI 600-1 übernimmt die Definition aus der US-Executive-Order 14110: Modelle, die Struktur und Eigenschaften ihrer Eingabedaten nachbilden, um daraus synthetische Inhalte zu erzeugen, etwa Bilder, Videos, Audio und Text.

Klassifikation:  Eingang "Scan_0815.pdf"           → Dokumenttyp: Rechnung
Regression:      Kundenhistorie                     → Zahlungsausfall-Wahrscheinlichkeit
Generierung:     "Antwort auf die Reklamation, höflich, drei Sätze" → neuer Text

Begriffe der KI-Verordnung

Die KI-Verordnung (EU) 2024/1689 knüpft Pflichten an das Modell. Art. 3 Nr. 63 definiert ein KI-Modell mit allgemeinem Verwendungszweck sinngemäß als Modell, das mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird, eine erhebliche allgemeine Verwendbarkeit aufweist, ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen und in eine Vielzahl nachgelagerter Systeme integriert werden kann. Ausgenommen sind Modelle, die vor dem Inverkehrbringen nur für Forschung und Entwicklung dienen. Nach der Bundesnetzagentur sind große generative Modelle laut Erwägungsgrund 99 ein typisches Beispiel. Ein System, das ein solches Modell enthält und vielen Zwecken dienen kann, heißt KI-System mit allgemeinem Verwendungszweck.

Die Anbieterpflichten nach Art. 53 gelten seit dem 2. August 2025: technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Strategie zum Urheberrecht und eine Zusammenfassung der Trainingsinhalte. Ab einem Trainingsaufwand von 10^25 Gleitkommaoperationen wird ein systemisches Risiko vermutet, dann kommen die Pflichten aus Art. 55 hinzu. Was Betriebe als Nutzer trifft, ordnet der Beitrag KI-Verordnung: Was jetzt gilt ein, zur Schulungspflicht siehe KI-Kompetenz.

Typische Fehler

• Erzeugen, wo Einordnen genügt. Soll nur eine Kategorie herauskommen, ist das eine Klassifikation. Dann die erlaubten Werte fest vorgeben, etwa als enum in einem JSON-Schema. Strukturierte Ausgaben bei Anthropic und OpenAI halten das Schema ein. Anthropic rät trotzdem, enum-Werte ohne Rücksicht auf Groß- und Kleinschreibung zu vergleichen.
• Ausgaben ungeprüft veröffentlicht. NIST AI 600-1 nennt Konfabulation als eigenes Risiko und warnt vor Automation Bias, dem übermäßigen Vertrauen in automatisch erzeugte Ergebnisse.
• Rechte ausgeblendet. NIST führt geistiges Eigentum als Risiko: Generative KI erleichtert es, geschützte Inhalte nachzubilden.
• Personenbezogene Daten im Prompt. NIST nennt Datenabfluss und Offenlegung sensibler Daten als Risiko. Prompts gehören deshalb in die Regeln für personenbezogene Daten.
• Herkunft nicht nachvollziehbar. NIST empfiehlt, die Wirksamkeit eingesetzter Herkunftsnachweise wie Wasserzeichen oder kryptografischer Verfahren zu messen.

Prüfen

• Eine Stichprobe erzeugter Texte gegen die Quellen prüfen, bevor sie veröffentlicht werden.
• Schriftlich festhalten, wer erzeugte Inhalte freigibt und wofür sie verwendet werden dürfen.