Lexikon

LLM (Large Language Model)

LLM steht für Large Language Model – ein großes Sprachmodell, das aus riesigen Textmengen gelernt hat, Sprache zu verstehen und zu erzeugen. LLMs sind der Motor moderner KI-Chatbots: Sie verstehen Kundenfragen unabhängig von der Formulierung und antworten in natürlicher Sprache.

Die Abkürzung, kurz erklärt

Large Language Model heißt wörtlich „großes Sprachmodell". „Groß" bezieht sich auf die Zahl der Parameter – der Stellschrauben, die das Modell beim Training justiert, heute meist hunderte Milliarden. Bekannte LLMs sind GPT (OpenAI), Gemini (Google) und Claude (Anthropic). Sie alle tun im Kern dasselbe: Aus einem Text-Kontext das jeweils plausibelste nächste Wort vorhersagen – in einer Qualität, die flüssige Gespräche, Übersetzungen und Zusammenfassungen möglich macht.

Was ein LLM kann – und was nicht

Ein LLM versteht Formulierungsvarianten, Tippfehler und Kontext („das gleiche in Größe M") mühelos. Was es nicht von sich aus kann: deine Geschäftsdaten kennen. Ein rohes LLM weiß nichts über deine Preise, Öffnungszeiten oder Rückgabefristen – und neigt dazu, Wissenslücken selbstbewusst zu überspielen (eine Halluzination).

Deshalb kombinieren Business-Chatbots das Modell mit einer Wissensbasis: Per RAG bekommt das LLM zu jeder Frage die passenden Auszüge aus deinen Inhalten mitgeliefert und formuliert die Antwort daraus – statt aus dem eigenen Halbwissen.

Worauf Unternehmen bei LLMs achten sollten

  • Modellwahl: Für Standardfragen reicht ein schnelles, günstiges Modell; komplexe Beratung profitiert von stärkeren. Plattformen wie WebChatAgent lassen dich das Modell pro Bot wählen – inklusive EU-gehosteter Varianten.
  • Datenschutz: Entscheidend ist, wo das Modell läuft und ob deine Daten zum Training verwendet werden. Für DACH-Unternehmen sind EU-Verarbeitung und ein AV-Vertrag Pflichtkriterien – Details auf der Seite zum DSGVO-Chatbot.
  • Kostenmodell: LLM-Nutzung kostet pro Anfrage. Prüfe, ob dein Anbieter die Modellkosten im Preis inkludiert (bei WebChatAgent: ja) oder separat abrechnet.

Welche Rolle das LLM bei der Anbieterwahl spielt – neben Wissensanbindung, Übergabe und Preismodell – steht im Chatbot-Anbieter-Vergleich.