Was ist generative KI?
Generative KI erzeugt neue Inhalte wie Texte, Bilder, Audio oder Programmcode, statt wie klassische KI nur einzuordnen oder einen Wert vorherzusagen.
Ohne Fachbegriffe, für Betriebe ohne eigene IT.
Auf dieser Seite4 Abschnitte
Einfach erklärt
In der Poststelle sortiert jemand Briefe: Rechnung, Lieferschein, Werbung. Ein Texter dagegen schreibt neue Briefe. Viele klassische KI-Anwendungen sind Sortierer. Solche Anwendungen erkennen Spam, ordnen Dokumente nach ihrer Art oder sagen einen Wert voraus. Generative KI ist der Texter. Sie erzeugt etwas, das es vorher nicht gab: einen Text, ein Bild, eine Tonspur oder Programmcode. Beide lernen aus Beispielen. Der Unterschied liegt darin, was am Ende herauskommt.
Das bekannteste Beispiel sind Sprachmodelle hinter Chatprogrammen. Dazu kommen Bildgeneratoren, Sprachausgabe mit künstlichen Stimmen und Programmierhilfen.
Woran Sie es im Betrieb merken
- Mitarbeitende lassen Mails, Angebotstexte oder Social-Media-Beiträge vorformulieren.
- Office- und Mailprogramme schlagen ganze Absätze vor.
- Bilder für Website und Prospekt kommen aus einem Generator statt aus einer Bilddatenbank.
- Texte klingen glatt und einheitlich, auch dort, wo Fakten nicht stimmen.
Was Sie regeln sollten
Klären Sie, welche Dienste genutzt werden dürfen und welche Daten hinein dürfen. Sonst entsteht Schatten-KI. Legen Sie fest, wer erzeugte Inhalte vor der Veröffentlichung prüft. Ob und wie Sie KI-erzeugte Inhalte kennzeichnen müssen, regelt die KI-Verordnung. Was dabei für wen gilt, erklärt die Seite KI-Kennzeichnungspflicht. Ansprechpartner sind Ihr IT-Dienstleister, Ihr Datenschutzbeauftragter oder ein KI-Beauftragter, falls Sie einen benannt haben.
Was generative KI nicht leistet
Sie erzeugt Plausibles, nicht Geprüftes. Ein Text kann eine Frist, einen Preis oder eine Quelle erfinden, siehe Halluzination. Sie klärt auch keine Rechte: Ein erzeugtes Bild kann einem geschützten Werk ähneln. Die fachliche Freigabe bleibt bei Ihnen.
Erzeugen statt Vorhersagen
Generative KI bezeichnet Modelle, die neue Inhalte erzeugen, statt nur einzuordnen oder einen Wert vorherzusagen. Eine formale Definition gibt es laut dem Machine-Learning-Glossar von Google nicht. Das Glossar beschreibt generative KI als Modelle, die komplexe, zusammenhängende und neue Inhalte erzeugen. Es grenzt sie von prädiktivem Machine Learning ab, bei dem ein Klassifikationsmodell eine Klasse liefert und ein Regressionsmodell eine Zahl. Das NIST übernimmt in AI 600-1 die Definition aus der US-Executive-Order 14110: Modelle, die Struktur und Eigenschaften ihrer Eingabedaten nachbilden, um daraus synthetische Inhalte zu erzeugen, etwa Bilder, Videos, Audio und Text.
Klassifikation: Eingang "Scan_0815.pdf" → Dokumenttyp: Rechnung
Regression: Kundenhistorie → Zahlungsausfall-Wahrscheinlichkeit
Generierung: "Antwort auf die Reklamation, höflich, drei Sätze" → neuer Text
Begriffe der KI-Verordnung
Die KI-Verordnung (EU) 2024/1689 knüpft Pflichten an das Modell, genauer an das KI-Modell mit allgemeinem Verwendungszweck. Große generative Modelle sind dafür ein typisches Beispiel, so die Bundesnetzagentur mit Verweis auf Erwägungsgrund 99. Art. 3 Nr. 63 definiert ein solches Modell sinngemäß als Modell, das
- mit einer großen Datenmenge unter umfassender Selbstüberwachung (self-supervision) trainiert wird,
- eine erhebliche allgemeine Verwendbarkeit aufweist,
- ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen kann und
- in eine Vielzahl nachgelagerter Systeme integriert werden kann.
Ausgenommen sind Modelle, die vor dem Inverkehrbringen, also vor der Markteinführung, nur für Forschung und Entwicklung dienen. Ein System, das ein solches Modell enthält und vielen Zwecken dienen kann, heißt KI-System mit allgemeinem Verwendungszweck.
Die Pflichten nach Art. 53 treffen die Anbieter solcher Modelle und gelten seit dem 2. August 2025: technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Strategie zum Urheberrecht und eine Zusammenfassung der Trainingsinhalte. Ab einem Trainingsaufwand von 10^25 Gleitkommaoperationen wird ein systemisches Risiko vermutet, dann kommen die Pflichten aus Art. 55 hinzu. Was Betriebe als Nutzer trifft, ordnet der Beitrag KI-Verordnung: Was jetzt gilt ein, zur Schulungspflicht siehe KI-Kompetenz.
Typische Fehler
- Erzeugen, wo Einordnen genügt. Soll nur eine Kategorie herauskommen, ist das eine Klassifikation. Dann die erlaubten Werte fest vorgeben, etwa als
enumin einem JSON-Schema. Strukturierte Ausgaben bei Anthropic und OpenAI halten das Schema ein. Anthropic rät trotzdem,enum-Werte ohne Rücksicht auf Groß- und Kleinschreibung zu vergleichen. - Ausgaben ungeprüft veröffentlicht. Erfundene Angaben (Halluzinationen, bei NIST Konfabulation genannt) führt NIST AI 600-1 als eigenes Risiko. Zusätzlich warnt das NIST vor Automation Bias, dem übermäßigen Vertrauen in automatisch erzeugte Ergebnisse.
- Rechte ausgeblendet. Generative KI erleichtert es, geschützte Inhalte nachzubilden. NIST führt geistiges Eigentum deshalb als Risiko.
- Personenbezogene Daten im Prompt. Datenabfluss und die Offenlegung sensibler Daten nennt NIST als Risiko. Prompts gehören deshalb in die Regeln für personenbezogene Daten.
- Herkunft nicht nachvollziehbar. Herkunftsnachweise wie Wasserzeichen oder kryptografische Verfahren nicht nur einsetzen, sondern ihre Wirksamkeit messen. So empfiehlt es NIST.
Prüfen
- Eine Stichprobe erzeugter Texte gegen die Quellen prüfen, bevor sie veröffentlicht werden.
- Schriftlich festhalten, wer erzeugte Inhalte freigibt und wofür sie verwendet werden dürfen.