# Halluzination

> Als Halluzination bezeichnet man eine Ausgabe eines Sprachmodells, die flüssig und überzeugend formuliert ist, aber nicht durch Fakten oder die zugrunde liegenden Quellen gedeckt ist, etwa eine erfundene Adresse, ein falsches Angebot oder eine nicht existierende Quelle.

Englisch: Hallucination  
Aktualisiert: 2026-10-16  
Webfassung: https://artemislabs.ch/wissen/glossar/halluzination

Der Begriff ist in der Forschung zur Sprachverarbeitung etabliert und wird in zwei viel zitierten Übersichtsarbeiten systematisch beschrieben: von Ji und Kollegen (2022) für Textgenerierung allgemein und von Huang und Kollegen (2023) für grosse Sprachmodelle. Die Bezeichnung ist bildhaft und umstritten, weil sie ein menschliches Wahrnehmungsphänomen auf eine Maschine überträgt. Sie hat sich trotzdem durchgesetzt.

## Arten von Halluzinationen

Die Forschung unterscheidet grob zwei Formen:

- **Widerspruch zur Quelle:** Das Modell gibt einen Text, den es zusammenfassen oder auf den es sich stützen soll, falsch wieder. Es behauptet etwa, eine Seite nenne einen Preis, den sie nicht nennt.
- **Widerspruch zur Welt:** Das Modell behauptet etwas, das sich nicht belegen lässt oder nachweislich falsch ist, ohne dass eine bestimmte Quelle betroffen wäre. Es erfindet etwa einen Standort oder ordnet einer Firma das Angebot eines Mitbewerbers zu.

Huang und Kollegen unterscheiden für grosse Sprachmodelle zusätzlich zwischen Fehlern in Fakten und Fehlern in der Treue gegenüber Anweisung oder Kontext.

## Ursachen

Sprachmodelle erzeugen Text, indem sie fortlaufend wahrscheinliche Fortsetzungen wählen. Sie haben kein eingebautes Verfahren, Wissen von plausibel klingendem Nichtwissen zu unterscheiden. Die Übersichtsarbeiten nennen als Ursachen unter anderem Lücken und Fehler in den Trainingsdaten, veraltetes Wissen nach dem Trainingsstichtag, die Art des Trainings und die Art, wie Text erzeugt wird. Bei Unternehmen mit wenig öffentlicher Präsenz oder mit Namen, die anderen Firmen gleichen, fehlen dem Modell oft die Fakten, und es füllt die Lücke mit Plausiblem.

## Gegenmassnahmen

Auf Seiten der Anbieter ist Grounding verbreitet: Das Modell stützt seine Antwort auf abgerufene Quellen, wie es Lewis und Kollegen 2020 als Retrieval-Augmented Generation beschrieben haben. Das senkt das Risiko, beseitigt es aber nicht, weil auch abgerufene Quellen falsch sein oder falsch wiedergegeben werden können.

Auf Seiten eines Unternehmens hilft vor allem, die Lücke zu schliessen: belegte, konsistente Fakten auf der eigenen Website, in Verzeichnissen und in Wissensdatenbanken; eindeutige Entitäten, die Verwechslungen vermeiden; und eine regelmässige Prüfung, was Assistenten tatsächlich über das Unternehmen sagen.

## Was das für ein Schweizer Unternehmen bedeutet

Für ein Schweizer Unternehmen ist eine Halluzination über das eigene Angebot kein technisches Kuriosum, sondern ein Reputations- und unter Umständen ein Haftungsthema, etwa bei falschen Preisen, Konditionen oder Zulassungen. Es lohnt sich, solche Aussagen systematisch zu erfassen, ihre Ursache zu bestimmen und festzulegen, wer intern reagiert.

## Quellen

- [Ji et al.: Survey of Hallucination in Natural Language Generation (arXiv 2202.03629, 2022)](https://arxiv.org/abs/2202.03629)
- [Huang et al.: A Survey on Hallucination in Large Language Models (arXiv 2311.05232, 2023)](https://arxiv.org/abs/2311.05232)
- [Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (arXiv 2005.11401, 2020)](https://arxiv.org/abs/2005.11401)

## Verwandte Begriffe

- [Grounding](https://artemislabs.ch/wissen/glossar/grounding.md)
- [Entität](https://artemislabs.ch/wissen/glossar/entitaet.md)
- [Wikidata](https://artemislabs.ch/wissen/glossar/wikidata.md)
- [Nennungsquote](https://artemislabs.ch/wissen/glossar/nennungsquote.md)
- [revDSG im KI-Kontext](https://artemislabs.ch/wissen/glossar/revdsg-ki.md)

## Weiter

- [Artemis Protokoll: Kontrolle behalten](https://artemislabs.ch/leistungen/protokoll)
- [Standortbestimmung](https://artemislabs.ch/standortbestimmung)
- [Glossar](https://artemislabs.ch/wissen/glossar.md)