Erhoben:
Ein Branded LLM ist ein kleines Sprachmodell, das eine Person oder Marke verkörpert: ihren Ton, ihr Wissen, ihre Grenzen. Es übernimmt den Erstkontakt, auf eigener Hardware, ohne Token-Abrechnung und ohne Anbieter dazwischen.
Mein Plan dafür war klar: den Ton eintrainieren. Ein kleines Modell mit meinen eigenen Texten nachschulen, bis es klingt wie ich. Vier Trainingsläufe später stand ein Ergebnis, das meinen Plan zur Hälfte widerlegt hat. Hier stehen die Zahlen, auch die unbequemen.
Die Ausgangslage
Ein Standardmodell antwortet höflich, ausführlich und austauschbar. Genau das soll ein Branded LLM nicht tun. Die Frage war also: Wie bekommt ein kleines Modell einen erkennbaren Ton, ohne dass es dabei schlechter wird?
Zwei Wege lagen auf dem Tisch. Das Modell mit eigenen Frage-Antwort-Paaren nachtrainieren, oder ihm zu jeder Frage die passenden eigenen Texte vorlegen. Ich habe mit dem ersten angefangen, weil er mir eleganter erschien.
Die Entscheidung
Das Training sollte ausschließlich den Stil tragen. Wissen kommt zur Laufzeit aus aktuellen Quellen, sonst friert veraltetes Wissen in den Gewichten fest. Trainiert habe ich Gemma 4 E2B auf einer Laptop-Grafikkarte mit 12 GB Speicher, mit Frage-Antwort-Paaren, die aus meinen Artikeln und Beiträgen entstanden sind.
Die Messreihe
Acht Prüffragen, jeweils gegen das unveränderte Grundmodell verglichen. Das Ziel lag bei einem Median von 414 Zeichen je Antwort.
| Lauf | Beispiele | Epochen | train_loss | Median Länge | Fachjargon | Grammatik |
|---|---|---|---|---|---|---|
| Grundmodell | 1.470 | 11 | sauber | |||
| v1 | 36 | 5 | 0,521 | 1.174 | 19 | Fehler |
| v2 | 80 | 5 | 0,404 | 852 | 2 | Fehler |
| v3 | 80 | 5 | 0,382 | 801 | 4 | sauber |
| v4 | 80 | 2 | 0,486 | 1.226 | 7 | sauber, alte Floskeln zurück |
Der beste Lauf, v3, kürzte die Antworten fast auf die Hälfte und senkte den Jargon deutlich. Am Ziel von 414 Zeichen lag er trotzdem weit daneben.
Zwei Befunde, die ich nicht erwartet hatte
Die Fehler kamen aus meinen Daten. v1 und v2 erzeugten kaputte Wortformen, und ich hielt das Modell für sprachlich zu schwach. Dann lief das Grundmodell fehlerfrei. Die Ursache lag in einem synthetisch ergänzten Teil des Datensatzes: komplett ohne Umlaute geschrieben, 0 gegen 205 im Original. 55 Prozent der Beispiele standen damit in falscher Rechtschreibung. Nach der Korrektur waren die Fehler weg, und der Durchsatz stieg nebenbei von 481 auf 673 Token pro Sekunde, weil das Modell echte deutsche Wörter effizienter zerlegt.
Bei 80 Beispielen gibt es keine gute Einstellung. Für eine spürbare Stilverschiebung braucht es rund 50 Trainingsschritte. Bei 80 Beispielen geht das nur, wenn jedes Beispiel fünfmal gesehen wird, und genau das erzeugt Lücken im Zusammenhang. Mit zwei Durchgängen bleiben es 20 Schritte, zu wenig: Die Standardfloskeln des Grundmodells kehren zurück. Die rechnerische Lösung wären 200 sorgfältig ausgewählte Beispiele bei zwei Durchgängen.
Was heute läuft
Parallel dazu habe ich den zweiten Weg gebaut, und der hat gewonnen. Bibo, der im Mitgliederbereich dieser Website antwortet, bekommt zu jeder Frage passende Stellen aus meinem eigenen Textbestand vorgelegt. Ein abgerufener eigener Satz trifft den Ton besser als der trainierte Adapter, und besser als jede Stilregel im Prompt. Wie das technisch aufgebaut ist und wie schnell es antwortet, steht in meiner Fallstudie „Mein Bot kennt mein Wissen, trainiert habe ich ihn nie“.
Stand 28. September 2026:
- Bibo rechnet mit einem offenen 26-Milliarden-Modell auf dem Mini-PC bei mir zu Hause. Die erste Fassung lief noch auf einem gemieteten Server ohne Grafikkarte, inzwischen hält der Server nur noch die Logik.
- Sein Wissensbestand umfasst 49 Dateien, die jede Nacht aus meinen Texten nachgezogen werden. Das Modell selbst bleibt dabei unverändert.
- Im Mitgliederbereich hat er bisher 3 Fragen beantwortet, mindestens zwei davon meine eigenen Tests. Zwei Antworten kamen nach zwei bis zweieinhalb Minuten, eine nach über 90 Minuten. Die Ursache für diesen Ausreißer habe ich noch nicht geklärt.
Drei Antworten sind keine Statistik. Ich nenne sie trotzdem, weil sie der ehrliche Stand sind.
So gehst du selbst vor
- Trenn Stil und Wissen. Wissen gehört in abrufbare Texte, die du ändern kannst. Ins Training gehört höchstens der Ton.
- Miss zuerst das Grundmodell. Ohne diesen Ausgangswert hältst du Fehler in deinen Daten für Schwächen des Modells. Mir ist genau das passiert.
- Prüf deine Daten maschinell. Umlautdichte, Länge, Dubletten. Ein Skript findet in Sekunden, was beim Lesen durchrutscht.
- Rechne die Schritte aus. Beispiele mal Durchgänge geteilt durch Stapelgröße. Wenn die Zahl nur mit fünf Durchgängen reicht, brauchst du mehr Beispiele.
- Probier den Abruf, bevor du trainierst. Er ist schneller gebaut, leichter zu ändern und hat bei mir besser geklungen.
Was diese Fallstudie nicht zeigt
Ob ein größeres Modell mit 200 Beispielen den Ton doch trifft, habe ich nicht gemessen. Auf 12 GB Grafikspeicher lief das größere Modell nicht. Finetuning habe ich damit verschoben. Es lohnt dort, wo Sprachgewohnheiten eines Modells hartnäckig bleiben.
