Das Trainingsziel klingt unspektakulär: Gegeben ein Stück Text, sage das nächste voraus. In ausreichendem Maßstab muss das Modell dafür Grammatik, Fakten, Argumentationsstrukturen und sehr viel darüber verinnerlichen, wie Menschen schreiben — und genau diese Fähigkeiten nutzt du, wenn du ihm eine Aufgabe gibst.
Daraus folgen zwei Dinge, die die meisten Überraschungen erklären. Das Modell hat keinen separaten Faktenspeicher zum Nachschlagen, also entsteht eine plausibel klingende falsche Antwort mit exakt derselben Maschinerie wie eine richtige. Und es hat kein Gedächtnis zwischen Aufrufen: alles, was es über euer Gespräch weiß, wurde ihm bei jeder einzelnen Anfrage erneut als Text geschickt.
Verwandte Begriffe
Kontextfenster
Die maximale Textmenge, die ein Modell auf einmal berücksichtigen kann — Anweisungen, Gespräch und Antwort zusammengerechnet.
Halluzination
Eine selbstsichere, flüssige, vollständig erfundene Antwort — eine Quelle, eine Zahl oder eine API, die es nicht gibt.
Fine-Tuning
Ein vorhandenes Modell mit eigenen Beispielen weitertrainieren, damit es ein Verhalten oder einen Stil annimmt, den es vorher nicht hatte.
Embedding
Eine Zahlenliste, die einen Text repräsentiert — so angeordnet, dass Texte über Ähnliches nahe beieinander landen.
Die zugehörige Werkbank
KI-AutomatisierungDie repetitive Hälfte deiner Woche, übergeben an Software, der nicht langweilig wird. Posteingang sortieren, Nachfassen, Reporting, Datenpflege zwischen Tools, die nie zum Zusammenspiel gedacht waren.
