Ein Modell gibt nicht eine Antwort aus, sondern eine Wahrscheinlichkeit für jedes mögliche nächste Token. Die Temperatur verformt diese Wahrscheinlichkeiten vor dem Sampling: nahe null nimmt das Modell fast immer den Favoriten, nahe eins exploriert es. Gleiches Modell, gleicher Prompt, anderer Charakter.
Die Einstellung sollte der Aufgabe folgen. Support-Antworten, Extraktion und alles, was nachgeprüft wird, will niedrige Temperatur; Brainstorming und erste Entwürfe vertragen mehr. Was Temperatur nie tut, ist Wissen erzeugen — ein hoher Wert macht eine falsche Antwort kreativer, nicht richtiger.
Verwandte Begriffe
Großes Sprachmodell (LLM)
Ein auf riesigen Textmengen trainiertes Modell, das vorhersagt, was als Nächstes kommt — was genügt, um zu schreiben, zusammenzufassen, zu übersetzen und viele Aufgaben durchzudenken.
Halluzination
Eine selbstsichere, flüssige, vollständig erfundene Antwort — eine Quelle, eine Zahl oder eine API, die es nicht gibt.
System-Prompt
Die feststehenden Anweisungen, die jedem Gespräch vorangestellt werden und festlegen, was das Modell tun und wie es sich verhalten soll.
Die zugehörige Werkbank
Generative KIStable Diffusion und ComfyUI eingebunden dort, wo deine Inhalte tatsächlich entstehen, mit einem feinabgestimmten Modell, damit alles nach dir aussieht.
