Glossar
Was ist Halluzination?
Kurz erklärt
Eine Halluzination liegt vor, wenn ein Sprachmodell Inhalte ausgibt, die plausibel klingen, aber nicht stimmen oder nicht durch Quellen gedeckt sind. Das Modell erkennt den Fehler dabei nicht selbst, weshalb Ergebnisse im Geschäftsalltag geprüft werden müssen.
Wer Sprachmodelle im Unternehmen einsetzt, stößt früher oder später auf Antworten, die fehlerfrei formuliert sind und trotzdem nicht stimmen. Dieser Eintrag erklärt, woher das kommt und wie man damit umgeht.
Was ist eine Halluzination bei KI?
Eine Halluzination ist eine Ausgabe, die flüssig und sicher klingt, aber falsche oder erfundene Angaben enthält. Typisch sind nicht existierende Quellen, falsche Daten oder Gesetzesverweise, die es so nicht gibt.
Ein Large Language Model berechnet, welches Wort mit hoher Wahrscheinlichkeit folgt. Ob eine Aussage wahr ist, prüft es dabei nicht von sich aus.
Warum halluzinieren Sprachmodelle?
Die Ursache liegt im Aufbau. Das Modell hat Muster aus Trainingstexten gelernt und füllt Lücken mit Wahrscheinlichem, wenn Wissen fehlt, veraltet ist oder die Frage unklar gestellt wurde. Eine Übersichtsarbeit von Huang und anderen ordnet Halluzinationen in Kategorien ein und beschreibt Ursachen in den Daten, im Training und in der Texterzeugung.
Häufiger treten Fehler auf bei Spezialwissen, aktuellen Ereignissen und Fragen, auf die es keine eindeutige Antwort gibt.
Wie lassen sich Halluzinationen verringern?
Vollständig ausschließen lassen sie sich nicht, aber eindämmen. Bewährt sind klare Anweisungen im Prompt, die Anbindung an eigene Dokumente über RAG und die Vorgabe, bei fehlender Grundlage zuzugeben, dass die Information fehlt.
- Antworten an Quellen binden und Fundstellen ausgeben lassen
- Aufgaben eng und eindeutig formulieren
- Zahlen, Fristen und Verweise stichprobenartig gegenprüfen
- Folgenreiche Schritte von einer Person freigeben lassen
Welche Rolle spielt das bei der Arbeit mit Belegen und Dokumenten?
Bei der Belegverarbeitung liest eine KI Scans und schlägt Werte vor. Weil sie dabei falsch lesen oder ergänzen kann, sollte ein Mensch Vorschläge prüfen, bevor sie verbucht werden. Der SaracAI-Connector, ein MCP-Server für DATEV, E-Mail und OneDrive, der bei einer Steuerkanzlei im Einsatz ist, ist deshalb auf Vorbereitung und Prüfung durch Fachpersonal ausgelegt. Eine rechtliche oder steuerliche Beratung ersetzt dieser Eintrag nicht.