Was eine KI-Halluzination ist
Sprachmodelle erzeugen Text auf Grundlage von Wahrscheinlichkeiten. Sie prüfen nicht, ob eine Aussage wahr ist, sondern welche Fortsetzung zum bisherigen Text passt. Dabei kann es vorkommen, dass sie Fakten falsch wiedergeben oder Details erfinden und sie mit großer Überzeugung formulieren. Diese Erscheinung nennt man Halluzination.
Typische Fälle sind erfundene Literaturangaben, falsche Jahreszahlen, nicht existierende Funktionen von Produkten oder Verwechslungen ähnlich klingender Namen und Unternehmen.
Ursachen
Mehrere Gründe tragen dazu bei. Trainingsdaten können lückenhaft, veraltet oder widersprüchlich sein. Zu seltenen Themen existiert wenig Material, sodass das Modell Lücken mit Plausiblem füllt. Auch missverständliche Fragen oder fehlende Hinweise im Prompt erhöhen das Risiko.
Verfahren wie RAG sollen Halluzinationen senken, indem das Modell aktuelle Quellen erhält. Ganz vermeiden lässt sich das Phänomen nach derzeitigem Stand nicht.
Bedeutung für Marken
Für Unternehmen ist relevant, was KI-Systeme über sie behaupten. Existieren kaum verlässliche Quellen oder widersprechen sich die Angaben im Web, steigt die Gefahr, dass Modelle falsche Details zu Leistungen, Standorten oder Preisen nennen. Konsistente Angaben auf der eigenen Website und in unabhängigen Quellen helfen, das Bild zu stabilisieren.
Das gehört zur Arbeit an der KI-Sichtbarkeit. Hinweise zur Betreuung gibt der Bereich GEO-Agentur; ergänzend erklärt der Ratgeber KI-Sichtbarkeit messen, wie sich Darstellungen prüfen lassen.
Als Gegenmaßnahme eignen sich konkrete, überprüfbare Fakten auf der eigenen Website, etwa zu Leistungen, Gründungsjahr und Standorten, gepflegte Profile auf bekannten Plattformen und klare Aussagen ohne Widersprüche. Es gibt keine Garantie, dass Modelle diese Angaben übernehmen, doch die Wahrscheinlichkeit korrekter Wiedergabe steigt, wenn mehrere unabhängige Quellen übereinstimmen.
Umgang und Fehler
Wichtig ist, KI-Antworten bei relevanten Themen anhand von Originalquellen zu prüfen und bei Fehlern die Quelle der Falschinformation zu korrigieren, nicht nur die Antwort. Ein häufiger Fehler ist, Zitate und Quellenangaben ungeprüft zu übernehmen. Ebenso verbreitet ist die Annahme, ein höflicher Ton oder Detailreichtum sei ein Zeichen für Richtigkeit. Zur Funktionsweise siehe den Eintrag zu Sprachmodellen.