Halluzination (KI)

KI-Halluzination bezeichnet das Phänomen wenn ein Sprachmodell Informationen generiert die falsch, erfunden oder irreführend sind — dabei aber keine Unsicherheit signalisiert. Das Modell "halluziniert" Fakten die nicht existieren.

Bekannte Beispiele: Ein Sprachmodell erfindet Gerichtsurteile die nicht existieren und zitiert sie mit präzisen Aktenzeichen. Oder es behauptet ein bestimmtes Buch existiere, gibt einen Autor und ISBN an — aber das Buch gibt es nicht. Oder es beschreibt eine historische Person mit plausiblen, aber falschen Biografie-Details.

Warum passiert das? Sprachmodelle sind darauf trainiert, statistische Wahrscheinlichkeiten zu berechnen — also: Was ist das wahrscheinlichste nächste Wort/die wahrscheinlichste Antwort? Sie "wissen" nicht ob etwas wahr ist, sie generieren nur das was am plausibelsten klingt. Wenn die richtige Antwort nicht im Training war, kann das Modell trotzdem eine klingende Antwort produzieren.

Wie schützt man sich? Wichtige Fakten immer mit verlässlichen Quellen gegenchecken. KI-Outputs kritisch lesen, besonders bei spezifischen Zahlen, Namen, Daten und Zitaten. Tools die Quellen angeben (wie Perplexity AI) reduzieren das Halluzinationsrisiko deutlich.