KI-Halluzination
Eine KI-Halluzination ist eine Antwort, die ein Sprachmodell überzeugend formuliert, die aber sachlich falsch oder frei erfunden ist. Im Business-Einsatz sind Halluzinationen das Hauptrisiko von Chatbots – und der Grund, warum seriöse Systeme wie WebChatAgent Antworten per RAG an die eigenen Unternehmensinhalte binden.
Warum Sprachmodelle halluzinieren
Ein LLM sagt das jeweils plausibelste nächste Wort vorher – es „weiß" nicht im menschlichen Sinn, es rechnet Wahrscheinlichkeiten. Fehlt das nötige Wissen, entsteht trotzdem eine flüssige Antwort, nur eben eine erfundene: eine Rückgabefrist, die es nie gab, ein Produkt-Feature, das nicht existiert, ein zitiertes Urteil, das kein Gericht je gefällt hat. Das Tückische ist der Tonfall – Halluzinationen klingen genauso selbstsicher wie korrekte Antworten.
Was das im Kundenkontakt bedeutet
Ein Chatbot, der Kunden falsche Preise oder erfundene Zusagen nennt, kostet mehr als er spart: Support-Aufwand, Kulanzfälle, im Ernstfall Rechtsstreit. Unternehmen haften für Aussagen ihrer Bots gegenüber Kunden – „das hat die KI gesagt" ist keine Verteidigung. Halluzinations-Kontrolle ist deshalb keine technische Feinheit, sondern Grundvoraussetzung für den Einsatz.
Wie sich Halluzinationen eindämmen lassen
- Antworten an Quellen binden (RAG): Der Bot antwortet nur aus deinen Inhalten. Steht die Information nirgends, sagt er das – statt zu raten. Der wirksamste Einzelhebel.
- Quellenangabe: Antworten mit Verweis auf das zugrunde liegende Dokument machen Fehler sofort auffindbar.
- Klare Grenzen: Themen ausschließen (Rechtsberatung, Diagnosen), Übergabe an Menschen bei Unsicherheit.
- Testen mit echten Fragen: Vor dem Livegang die zwanzig häufigsten Kundenfragen stellen – und ein paar gemeine. Wo die Antwort wackelt, fehlt meist eine Quelle.
In der Praxis heißt das: Ein sauber aufgesetzter RAG-Chatbot halluziniert im Tagesgeschäft praktisch nicht, weil er auf deine Inhalte verpflichtet ist. Wie du so einen Bot aufsetzt, steht im Guide Chatbot erstellen ohne Programmierung; die Testschleife dazu im Beitrag Kundenservice automatisieren.