Kinact
Zurück zum Glossar

Methodik

Halluzination

Plausibel klingende, aber faktisch falsche Aussage eines LLM.

Halluzinationen entstehen, wenn ein Modell Wissen erfindet, statt zuzugeben, dass es etwas nicht weiß. Gegenmaßnahmen: RAG mit Quellen-Pflicht, strikte System-Prompts ("Antworte nur auf Basis des Kontexts"), Structured Outputs mit Zitat-Feldern, Eval-Suiten für Faktentreue, Confidence-Scoring. In regulierten Domänen (Recht, Medizin, Finanzen) ist Halluzinations-Reduktion das wichtigste Qualitätskriterium.

Verwandte Begriffe

RAG (Retrieval-Augmented Generation)Evals (LLM-Evaluation)

Halluzination im eigenen Unternehmen einsetzen?

Wir matchen Sie mit einem Senior-Berater, der genau das schon produktiv gebaut hat.

Projekt starten