Das Wort legt eine Fehlfunktion nahe, was in die Irre führt. Das Modell tut genau das, was es immer tut: Text erzeugen, der zum Muster einer guten Antwort passt. Kennt es das Material, ist der passende Text zugleich wahr. Kennt es es nicht, ist der passende Text eine Erfindung — und nichts im Prozess markiert den Unterschied, auch nicht für das Modell selbst.
Deshalb trägt Selbstsicherheit keine Information, und deshalb ist die Lösung architektonisch statt eine Frage der Ermahnung. Gib ihm das Quellmaterial und verlange, dass es zitiert, was es benutzt hat; zwinge die Ausgabe in ein Schema, dessen Form prüfbar ist; verifiziere alles, was billig zu verifizieren ist; und setze einen Menschen vor alles, dessen Fehler teuer wird.
Verwandte Begriffe
Großes Sprachmodell (LLM)
Ein auf riesigen Textmengen trainiertes Modell, das vorhersagt, was als Nächstes kommt — was genügt, um zu schreiben, zusammenzufassen, zu übersetzen und viele Aufgaben durchzudenken.
RAG (Retrieval-Augmented Generation)
Erst die passenden Dokumente heraussuchen und in den Prompt legen, damit das Modell aus deinem Material antwortet statt aus dem Gedächtnis.
Evaluation (Evals)
Ein wiederholbarer Testsatz, der misst, ob eine Änderung an einem KI-System es besser oder schlechter gemacht hat statt nur anders.
Die zugehörige Werkbank
KI-AutomatisierungDie repetitive Hälfte deiner Woche, übergeben an Software, der nicht langweilig wird. Posteingang sortieren, Nachfassen, Reporting, Datenpflege zwischen Tools, die nie zum Zusammenspiel gedacht waren.
