Was ist ein LLM?

Einfach erklärt

Stellen Sie sich eine sehr belesene Aushilfe vor. Sie hat Millionen Texte gelesen, bringt aber kein Nachschlagewerk mit. Sie schreibt flüssig, fasst zusammen und trifft den Ton. Ob jede Angabe stimmt, prüft sie nicht. Ein großes Sprachmodell, englisch Large Language Model oder kurz LLM, arbeitet ähnlich. Es hat aus sehr vielen Texten gelernt, welche Textbausteine typischerweise aufeinander folgen. Bekommt es einen Auftrag, setzt es den Text Stück für Stück so fort, wie es nach diesem Training am wahrscheinlichsten passt. Diese Stücke heißen Token.

Ein Chatprogramm wie ChatGPT von OpenAI ist eine Oberfläche für ein solches Modell. Es schreibt nicht selbst, sondern schickt Ihre Eingabe an das Modell und zeigt dessen Antwort an. Im Alltag heißt ein LLM auch Sprachmodell oder KI-Modell.

Wofür es im Büro taugt

• Entwürfe für Mails, Angebote und Stellenanzeigen
• lange Texte zusammenfassen, etwa ein Protokoll als erste Übersicht
• Texte umformulieren, kürzen oder übersetzen
• Notizen in eine feste Gliederung bringen

Im Betrieb merken Sie schnell: Die Antworten klingen sicher, auch wenn sie falsch sind. Das heißt Halluzination. Wer Ergebnisse ungeprüft weitergibt, gibt auch die Fehler weiter.

Was ein Sprachmodell nicht leistet

• Es ist keine Datenbank. Es speichert keine Liste geprüfter Fakten, sondern Muster. Eine Telefonnummer oder ein Paragraf kann plausibel aussehen und trotzdem falsch sein.
• Sein Wissen endet an einem Stichtag. Was danach geschah, kennt es nicht, solange es nicht an aktuelle Quellen angebunden ist.
• Es ist kein Taschenrechner. Es erzeugt Ziffern wie Wörter. Summen, Fristen und Preise rechnen Sie besser nach.
• Es kennt Ihre Unterlagen nicht. Soll es mit Ihren Dokumenten antworten, braucht es eine Anbindung wie RAG.

Was Sie vorher klären

Legen Sie fest, welche Dienste im Betrieb erlaubt sind und welche Daten hinein dürfen. Verarbeitet ein Cloud-Dienst personenbezogene Daten in Ihrem Auftrag, brauchen Sie einen Vertrag zur Auftragsverarbeitung. Ihr IT-Dienstleister oder Datenschutzbeauftragter hilft bei der Auswahl. Ein Modell lässt sich auch auf eigener Hardware betreiben, das beschreibt lokale KI.

Architektur und Ablauf

Im engeren Sinn ist ein LLM nach dem Machine-Learning-Glossar von Google ein Sprachmodell mit sehr vielen Parametern, umgangssprachlich jedes Sprachmodell auf Basis der Transformer-Architektur. Diese Architektur haben Vaswani et al. 2017 vorgestellt. Sie verzichtet auf Rekurrenz und Faltung und beruht allein auf Attention. Der Decoder ist autoregressiv: Er erzeugt die Ausgabe Element für Element und nimmt jedes erzeugte Symbol als Eingabe für das nächste. Eine Softmax-Schicht liefert dabei Wahrscheinlichkeiten für das nächste Token.

Eingabe:  "Die Rechnung ist fällig am"
Kandidaten für das nächste Token (Werte zur Veranschaulichung):
  " 15"      0,21
  " Ende"    0,12
  " 1"       0,09
  …

Ein Datum entsteht so als wahrscheinliche Fortsetzung, nicht als Nachschlagen. Die NIST-Veröffentlichung AI 600-1 beschreibt genau diese statistische Vorhersage als Ursache von Konfabulationen, siehe Halluzination.

Training, Inferenz und Stichtag

Kalai et al. (2025) beschreiben zwei Trainingsstufen: Pretraining auf großen Textmengen, danach Post-Training, das das Basismodell verfeinert. Inferenz heißt bei LLMs laut Google-Glossar, ein trainiertes Modell auf einen Prompt antworten zu lassen. Was das Modell dabei über den Trainingsbestand hinaus berücksichtigt, steht im Kontextfenster.

Anbieter geben je Modell einen Stichtag an. Anthropic unterscheidet einen „Reliable knowledge cutoff“ von einem breiteren „Training data cutoff“. OpenAI nennt etwa für GPT-4.1 den 1. Juni 2024 (Modellseite des Anbieters). Das Modell führt der Anbieter inzwischen als veraltet (Stand Oktober 2026). Die Angabe dient hier nur als Beispiel für einen Stichtag.

Typische Fehler

• Modell als Faktenquelle. Nach Kalai et al. halluziniert ein Basismodell bei willkürlichen Fakten wie Geburtstagen mindestens so häufig, wie es dem Anteil solcher Fakten entspricht, die im Training nur einmal vorkamen.
• Stichtag übersehen. Fragen zu neueren Gesetzen, Preisen oder Versionen beantwortet das Modell oft trotzdem. Kalai et al. zeigen, dass gängige Bewertungen Raten höher belohnen als ein „weiß ich nicht“.
• Kein fester Modellstand. Bei Anthropic ist jede Modell-ID ein festgelegter Snapshot. Die verwendete ID gehört deshalb in die Konfiguration. Nach jedem Modellwechsel wird neu getestet.
• Zählen und Rechnen im Modell. Kalai et al. führen Fehler beim Buchstabenzählen als Beispiel für Fehler an, die aus dem Modell selbst entstehen. Beträge und Fristen rechnet Code nach.

Zusammenspiel

Eigenes Wissen kommt über RAG zur Laufzeit hinzu, ein anderes Verhalten über Fine-Tuning. Ruft das Modell selbst Werkzeuge auf, wird es zum KI-Agenten. Primärquelle zur Architektur ist Vaswani et al., „Attention Is All You Need“ (arXiv 1706.03762).