# Halluzination

> Eine selbstsichere, flüssige, vollständig erfundene Antwort — eine Quelle, eine Zahl oder eine API, die es nicht gibt.

Das Wort legt eine Fehlfunktion nahe, was in die Irre führt. Das Modell tut genau das, was es immer tut: Text erzeugen, der zum Muster einer guten Antwort passt. Kennt es das Material, ist der passende Text zugleich wahr. Kennt es es nicht, ist der passende Text eine Erfindung — und nichts im Prozess markiert den Unterschied, auch nicht für das Modell selbst.

Deshalb trägt Selbstsicherheit keine Information, und deshalb ist die Lösung architektonisch statt eine Frage der Ermahnung. Gib ihm das Quellmaterial und verlange, dass es zitiert, was es benutzt hat; zwinge die Ausgabe in ein Schema, dessen Form prüfbar ist; verifiziere alles, was billig zu verifizieren ist; und setze einen Menschen vor alles, dessen Fehler teuer wird.

## Verwandte Begriffe

- https://dfieldsolutions.com/de/glossar/llm.md
- https://dfieldsolutions.com/de/glossar/rag.md
- https://dfieldsolutions.com/de/glossar/llm-evaluation.md

---

Source: https://dfieldsolutions.com/de/glossar/hallucination
DField Solutions — Dunakeszi, Hungary — dezso@dfieldsolutions.com
Booking: see https://dfieldsolutions.com/en/contact