Warum dein Chatbot Antworten übersieht, die in seiner Wissensdatenbank stehen

Die Beschwerde, die jeder Chatbot-Betreiber kennt

Ein Besucher stellt eine Frage. Die Antwort steht in der Wissensdatenbank, Wort für Wort. Der Bot antwortet trotzdem "dazu habe ich keine Information", oder er erfindet etwas. Man testet selbst, sieht den Fehler und zieht den naheliegenden Schluss: Das KI-Modell ist zu schwach. Also das größere Modell. Die Antworten werden besser, der Bot langsamer und teurer, und der eigentliche Fehler ist immer noch da.

Dieses Muster taucht bei uns regelmäßig im Support auf. Ein Kunde hat es präzise formuliert: "Alle günstigeren Modelle reichen nicht, sie übersehen ständig Informationen, die in der Wissensdatenbank stehen. Alle teureren Modelle sind zu langsam." Dieser Satz beschreibt ein Suchproblem, kein Modellproblem.

Deine Wissensdatenbank ist mehrsprachig, auch wenn du das nie entschieden hast

Ein typisches Setup: Die Website ist englisch, weil internationale Kunden das erwarten. Die FAQ-Dokumente, Preislisten und Notizen, die der Betreiber hochlädt, sind deutsch, weil das Team so arbeitet. Niemand nennt das eine "mehrsprachige Wissensdatenbank". Es passiert einfach.

Ein Chatbot liest nicht bei jeder Frage die komplette Wissensbasis. Er macht eine Ähnlichkeitssuche: Frage und Textabschnitte werden in Vektoren (Embeddings) umgerechnet, und die bestbewerteten Abschnitte, typischerweise um die 20, bekommt das KI-Modell als Kontext. Was diesen Schnitt nicht schafft, ist für das Modell unsichtbar. Nicht "weniger wichtig". Unsichtbar.

Der Haken: Embedding-Modelle bewerten gleichsprachige Treffer systematisch deutlich höher als sprachübergreifende. Die Forschung zu mehrsprachigem Retrieval misst einen Einbruch von 30 bis 50 Punkten bei Hits@20, sobald Frage und Dokument verschiedene Sprachen haben. Eine deutsche Frage punktet hoch gegen deutsche Website-Abschnitte, selbst lose verwandte, und niedrig gegen das eine englische Dokument, das die Antwort tatsächlich enthält.

Ein echter Fall, mit Rängen

Aus der Produktion (anonymisiert): Ein Anbieter von Studentenwohnungen betreibt eine Wissensbasis aus griechischem Website-Crawl und englischen Regel-Dokumenten. Das englische Dokument mit der exakten Kautionshöhe existiert. Ein Besucher fragt auf Griechisch nach der Kaution.

• Das richtige englische Kautions-Dokument landete in der Ähnlichkeitssuche auf Platz 46. Nur die Top 20 erreichen das Modell. Die Antwort kam nie an.
• Dieselbe Frage auf Englisch: Platz 1, Ähnlichkeit 0,786.
• Mit sprachübergreifender Suche findet die griechische Frage das Dokument jetzt auf Platz 4. Gleiche Wissensbasis, gleiches Modell, korrekte Antwort.

Das erklärt auch die Illusion "teure Modelle funktionieren besser". Ein halbwegs passender englischer FAQ-Abschnitt hatte sich auf Platz 16 in die Top 20 geschoben. Ein starkes Modell rekonstruiert aus solchen Fetzen manchmal die richtige Antwort. Ein günstiges Modell nimmt die oberen griechischen Treffer für bare Münze und antwortet über Verfügbarkeit statt über die Kaution. Das starke Modell wusste nicht mehr über dein Geschäft. Es war besser darin, um ein kaputtes Suchergebnis herumzuraten.

Warum "einfach das größere Modell" die falsche Lösung ist

Das Modell-Upgrade behandelt das Symptom und stellt es dir doppelt in Rechnung: mehr Kosten pro Nachricht, spürbar mehr Latenz. Und es bleibt unzuverlässig. Das Modell kann nur mit den Abschnitten arbeiten, die es bekommt. Steht die Antwort auf Platz 46, holt sie keine Intelligenz der Welt zurück. Man zahlt Premium-Preise für gebildetes Raten.

Was wirklich hilft: in jeder Sprache suchen, die dein Wissen hat

Die Methode ist in Forschung und Enterprise-Systemen etabliert: die eingehende Frage in die anderen Hauptsprachen der Wissensbasis übersetzen, die Suchen parallel laufen lassen und die Ergebnisse nach bestem Score zusammenführen. Jeder Teil des Wissens wird in seiner eigenen Sprache durchsucht, dort wo Embeddings stark sind. Der Besucher merkt davon nichts; der Bot antwortet weiter in seiner Sprache.

Naiv gebaut ist das langsam: ein Übersetzungsschritt plus zweite Suche vor jeder Antwort. Produktionsreif wird es durch Latenz- und Kostendisziplin:

• Sprachen der Wissensbasis einmal erkennen, nicht pro Frage. Wir ziehen eine Stichprobe der Inhalte, lassen ein kleines Modell die Hauptsprachen bestimmen und speichern das Ergebnis. Neu erkannt wird nur, wenn sich das Wissen tatsächlich ändert.
• Mit einem schnellen kleinen Modell übersetzen, nicht mit dem großen Chat-Modell. Die Übersetzung ist eine Suchanfrage, keine Literatur. Bei uns dauert das 300 bis 600 Millisekunden und kostet rund ein Hundertstel Cent.
• Die Varianten-Suche parallel zur Hauptsuche laufen lassen, damit sie sich in Zeit versteckt, die der Bot ohnehin braucht. In unseren Produktionsmessungen beträgt die zusätzliche Wartezeit meist 0 Millisekunden, gedeckelt bei 1,5 Sekunden im schlechtesten Fall.
• Übersetzungen cachen. Besucherfragen wiederholen sich stark. Eine wiederholte Frage überspringt die Übersetzung komplett.

Nach dem Rollout haben wir die gescheiterte griechische Kautionsfrage gegen die günstigste Modellklasse erneut getestet. Sie wurde korrekt beantwortet, inklusive der Details zur Rückzahlung. Der Kunde, der das Problem gemeldet hat, kann jetzt auf ein schnelleres, günstigeres Modell wechseln statt auf ein langsameres, teureres.

So läuft das bei WebChatAgent

Die sprachübergreifende Suche ist für jeden Chatbot auf unserer Plattform aktiv, in jedem Plan, ohne Konfiguration. Der Bot erkennt die Sprachen deiner Wissensbasis automatisch, hält diese Information bei Inhaltsänderungen aktuell und durchsucht bei jeder Frage alle davon. Das kombiniert sich mit dem Rest der Such-Pipeline: hybride Keyword- plus Vektorsuche, Zusammenfügen benachbarter Textfenster und eine Dokument-Priorität, die du selbst setzen kannst.

Wer eine Wissensbasis mit gemischten Sprachen betreibt, und statistisch tust du das fast sicher, bekommt damit den Unterschied zwischen "der Bot ignoriert meine Dokumente" und korrekten Antworten auf den günstigen Modellen.

Teste deinen eigenen Bot in zwei Minuten

1. Such dir einen Fakt, der nur in einer Sprache deiner Wissensbasis existiert, etwa ein rein englisches Regel-Dokument.
2. Frag danach in der anderen Sprache, die deine Besucher nutzen.
3. Behauptet der Bot, keine Information zu haben: Das ist exakt dieses Problem, kein Modellproblem. Kauf kein größeres Modell, um es zu umgehen.

Bei WebChatAgent kannst du das als strukturierten Wissenstest im Dashboard laufen lassen. Er bewertet die Antworten und zeigt, welche Abschnitte der Bot tatsächlich gefunden hat.