Was ist Fine-Tuning?
Fine-Tuning heißt, ein vorhandenes KI-Modell mit eigenen Beispielen weiterzutrainieren, damit es dauerhaft in einem bestimmten Stil oder Format antwortet.
Ohne Fachbegriffe, für Betriebe ohne eigene IT.
Auf dieser Seite4 Abschnitte
Einfach erklärt
Ein Sprachmodell ist wie eine erfahrene Fachkraft, die neu im Betrieb anfängt. Sie kann viel, schreibt aber noch nicht so wie Ihr Haus. Fine-Tuning ist die Einarbeitung: Man zeigt ihr viele Beispiele, wie bei Ihnen ein Angebot, eine Antwort auf eine Reklamation oder ein Prüfbericht aussieht, bis sie es von selbst so macht. Technisch wird ein vorhandenes Modell mit eigenen Beispielen weitertrainiert. Dabei verändern sich seine gespeicherten Zahlenwerte, die Gewichte, dauerhaft. Ein Prompt dagegen gilt nur für die eine Anfrage.
Wann es sich lohnt
Selten. Fine-Tuning hilft, wenn ein Modell immer im gleichen Format, Ton oder Fachvokabular antworten soll und klare Anweisungen das nicht erreichen. Für die meisten Aufgaben im Betrieb reichen zwei andere Wege:
- Ein guter Prompt mit klarer Aufgabe und ein oder zwei Beispielen.
- RAG, wenn das Modell Ihre Unterlagen kennen soll. Dort schlägt es nach, statt auswendig zu lernen.
Was es kostet
Neben dem Training kosten vor allem die Beispiele Zeit. Sie müssen richtig, einheitlich und frei von Daten sein, die nicht hineingehören. Danach muss jemand prüfen, ob das neue Modell wirklich besser ist als vorher. Erscheint ein neues Modell als Grundlage oder stellt der Anbieter das alte ein, beginnt die Arbeit von vorn. Fragt ein Dienstleister nach einem Fine-Tuning-Projekt, klären Sie zuerst: Was haben Prompt und RAG schon erreicht? Woran wird der Erfolg gemessen?
Was Fine-Tuning nicht leistet
Es ist kein Wissensspeicher für Fakten, die sich ändern. Eine neue Preisliste trainiert man nicht ein, man legt sie zum Nachschlagen bereit. Auch ein weitertrainiertes Modell kann falsche Angaben machen, siehe Halluzination. Personenbezogene Daten gehören vor dem Training aus den Beispielen heraus.
Verfahren im Überblick
Fine-Tuning passt ein vortrainiertes Modell durch zusätzliches Training mit aufgabenspezifischen Daten an und verändert dabei die Gewichte, statt jedem Prompt Beispiele mitzugeben. Die Microsoft-Foundry-Dokumentation unterscheidet:
| Verfahren | Trainingssignal |
|---|---|
| Supervised Fine-Tuning (SFT) | Prompts mit gewünschten Antworten |
| Direct Preference Optimization (DPO) | bevorzugte und abgelehnte Antwort auf dieselbe Eingabe |
| Reinforcement Fine-Tuning (RFT) | Prompts und ein Grader, der erzeugte Antworten bewertet |
Als möglichen Nutzen nennt sie einheitlichen Ton, Format oder Schema, bessere Auswahl und Argumente bei Tool Use, kürzere Prompts und die bessere Nutzung abgerufenen Kontexts. Zugleich hält sie fest, dass Fine-Tuning das Retrieval für aktuelle Informationen nicht ersetzt und eine Verbesserung nicht garantiert ist.
LoRA statt aller Gewichte
LoRA (Hu et al., 2021) friert die vortrainierten Gewichte ein und trainiert in jeder Transformer-Schicht zusätzliche Matrizen niedrigen Rangs. Gegenüber vollständigem Fine-Tuning von GPT-3 175B mit Adam sinkt laut Paper die Zahl trainierbarer Parameter um den Faktor 10.000 und der Bedarf an Grafikspeicher um den Faktor 3, ohne zusätzliche Latenz bei der Inferenz. Mit der Bibliothek PEFT:
from peft import LoraConfig, get_peft_model
config = LoraConfig(r=16, lora_alpha=16, target_modules=["query", "value"], lora_dropout=0.1)
model = get_peft_model(model, config)
r ist der Rang und bestimmt die Größe der Update-Matrizen. merge_and_unload() rechnet die Adaptergewichte in das Basismodell ein, sodass es als eigenständiges Modell läuft.
Typische Fehler
- Fine-Tuning für Faktenwissen. Für aktuelle Informationen verweist auch die Dokumentation der Anbieter auf Retrieval, siehe RAG.
- Prompting übersprungen. Laut OpenAI kann sorgfältiges Prompt Engineering bereits ausreichen.
- Keine Vergleichsbasis. Microsoft empfiehlt getrennte Trainings-, Validierungs- und Testdaten und den Vergleich auf zurückgehaltenen Aufgaben, nicht nur am Training Loss. OpenAI empfiehlt, Evals schon vor den Prompts zu schreiben.
- Adapter auf ein anderes Basismodell übertragen. Ein Adapter ist nach Microsoft nicht zwischen ähnlich benannten Basismodellen austauschbar. Nähert sich ein Basismodell seinem Ende, können neues Training und neues Deployment nötig werden.
- Abhängigkeit von einer Plattform. OpenAI stellt seine Fine-Tuning-Plattform ein und nimmt keine neuen Nutzer mehr auf (Stand Oktober 2026).
- Trainingsdaten ungeprüft. Microsoft rät, Daten vor dem Hochladen auf fehlende Fälle, Duplikate, Verzerrungen und sensible Informationen zu prüfen.