KI-Halluzination
Eine KI-Halluzination ist eine überzeugend formulierte, aber sachlich falsche oder frei erfundene Antwort. Bei Unternehmens-Chatbots senkst du dieses Risiko, indem Antworten an freigegebene Inhalte gebunden, mit Quellen belegt und bei fehlendem Wissen klar begrenzt werden.
Warum Sprachmodelle halluzinieren
Ein LLM sagt das jeweils plausibelste nächste Wort vorher – es „weiß" nicht im menschlichen Sinn, es rechnet Wahrscheinlichkeiten. Fehlt das nötige Wissen, entsteht trotzdem eine flüssige Antwort, nur eben eine erfundene: eine Rückgabefrist, die es nie gab, ein Produkt-Feature, das nicht existiert, ein zitiertes Urteil, das kein Gericht je gefällt hat. Das Tückische ist der Tonfall – Halluzinationen klingen genauso selbstsicher wie korrekte Antworten.
Was das im Kundenkontakt bedeutet
Ein Chatbot, der Kunden falsche Preise oder erfundene Zusagen nennt, kostet mehr als er spart: Support-Aufwand, Kulanzfälle, im Ernstfall Rechtsstreit. Unternehmen haften für Aussagen ihrer Bots gegenüber Kunden – „das hat die KI gesagt" ist keine Verteidigung. Halluzinations-Kontrolle ist deshalb keine technische Feinheit, sondern Grundvoraussetzung für den Einsatz.
Wie sich Halluzinationen eindämmen lassen
- Antworten an eigene Quellen binden (RAG): Der Bot nutzt deine freigegebenen Inhalte. Fehlt dort die Information, soll er das sagen, statt zu raten.
- Quellenangabe: Antworten mit Verweis auf das zugrunde liegende Dokument machen Fehler sofort auffindbar.
- Klare Grenzen: Themen ausschließen (Rechtsberatung, Diagnosen), Übergabe an Menschen bei Unsicherheit.
- Testen mit echten Fragen: Vor dem Livegang die zwanzig häufigsten Kundenfragen stellen – und ein paar gemeine. Wo die Antwort wackelt, fehlt meist eine Quelle.
Quellenbindung beseitigt das Risiko falscher Antworten nicht vollständig. Deshalb gehören Tests mit bekannten und bewusst unbeantwortbaren Fragen, sichtbare Quellen und ein sicherer Übergabeweg zum Setup. Wie du so einen Bot einrichtest, steht im Guide Chatbot erstellen ohne Programmierung; die Testschleife zeigt der Beitrag Kundenservice automatisieren.