Large Language Model: Funktionsweise, Stärken und Grenzen

Ein Large Language Model, kurz LLM, ist ein statistisches Modell, das aus sehr großen Textmengen gelernt hat, welche Wortfolgen wahrscheinlich aufeinanderfolgen. Es erzeugt Antworten, indem es Schritt für Schritt die jeweils passende Fortsetzung berechnet. Diese Funktionsweise erklärt sowohl die sprachliche Qualität der Ausgaben als auch deren systematische Schwächen.

Wie ein Sprachmodell arbeitet

Text wird zunächst in Einheiten zerlegt, sogenannte Token, die etwa Wortteilen entsprechen. Das Modell berechnet für jeden Schritt eine Wahrscheinlichkeitsverteilung über mögliche nächste Token und wählt daraus aus. Dieser Vorgang wiederholt sich, bis die Antwort abgeschlossen ist. Weil die Auswahl nicht rein deterministisch erfolgt, können identische Anfragen unterschiedliche Antworten erzeugen.

Das Modell verfügt über ein Kontextfenster, also eine begrenzte Menge an Text, die es gleichzeitig berücksichtigen kann. Alles darüber hinaus fällt weg. Ein Modell hat zudem kein Gedächtnis zwischen getrennten Sitzungen, sofern nicht ein umgebendes System frühere Inhalte erneut mitliefert. Was das Modell an Wissen enthält, stammt aus dem Trainingsmaterial und hat einen Stichtag; spätere Entwicklungen sind ohne zusätzliche Datenquelle nicht bekannt.

Stärken in der betrieblichen Anwendung

Sprachmodelle sind dort stark, wo Sprache selbst die Aufgabe ist und das Ergebnis überprüfbar bleibt.

• Umformulieren, Kürzen und Anpassen von Texten an eine Zielgruppe
• Zusammenfassen längerer Dokumente oder Protokolle
• Übersetzungen in gängige Sprachen als Arbeitsgrundlage
• Umwandlung unstrukturierter Angaben in strukturierte Formate
• Erklären von Fachtexten oder Fehlermeldungen in verständlicher Sprache
• Entwürfe für Standardkorrespondenz und wiederkehrende Dokumente

Der Nutzen liegt in der Regel in einer Verkürzung der Vorarbeit, nicht in einem fertigen Endergebnis. Der Zeitgewinn entsteht dadurch, dass ein brauchbarer Entwurf schneller vorliegt als bei einem Start auf dem leeren Blatt.

Grenzen, die sich nicht wegkonfigurieren lassen

Die wichtigste Einschränkung ist die fehlende Faktenprüfung. Ein Sprachmodell erzeugt die wahrscheinlichste Formulierung, nicht die nachweislich richtige. Es entstehen dabei Aussagen, die zwar konsistent und fachsprachlich korrekt klingen, aber frei erfunden sind. Betroffen sind besonders häufig Details wie Paragrafen, Normbezeichnungen, Quellenangaben, Datumsangaben oder Produktbezeichnungen. Da die Formulierung von einer korrekten Antwort nicht zu unterscheiden ist, greift die übliche Plausibilitätsprüfung des Lesers nicht.

Hinzu kommt, dass Rechenaufgaben und exakte Zählungen unzuverlässig bearbeitet werden, sofern das Modell nicht auf externe Werkzeuge zugreift. Auch die Nachvollziehbarkeit ist begrenzt: Warum eine bestimmte Antwort entstanden ist, lässt sich nicht sauber rekonstruieren. Für Prozesse mit Dokumentationspflichten ist das relevant. Schließlich reagieren Modelle empfindlich auf die Formulierung der Anfrage; kleine Änderungen können das Ergebnis deutlich verschieben.

Datenschutz und Betriebsführung

Jede Eingabe verlässt bei extern betriebenen Diensten das Unternehmen. Klären Sie vor dem produktiven Einsatz daher den Verarbeitungsort, die vertragliche Grundlage der Auftragsverarbeitung, die Speicherdauer und die Frage, ob Ihre Eingaben zur Modellverbesserung weiterverwendet werden. Für besonders sensible Bereiche kommen Modelle in Betracht, die im eigenen Rechenzentrum betrieben werden, was allerdings Aufwand für Hardware und Betrieb bedeutet.

Praktisch bewährt hat sich eine klare interne Regelung: welche Datenarten zulässig sind, welche Dienste freigegeben sind und wer für Freigaben zuständig ist. Ohne solche Vorgaben nutzen Mitarbeitende erfahrungsgemäß private Zugänge, womit die Kontrolle über Datenflüsse vollständig entfällt.

Typische Fehler

• Ergebnisse ungeprüft in Kundenkommunikation oder Verträge übernehmen
• Das Modell nach Quellen fragen und die genannten Angaben nicht verifizieren
• Vertrauliche Unterlagen in Dienste einspeisen, deren Bedingungen nicht geprüft wurden
• Erwarten, dass ein Modell aktuelle interne oder tagesaktuelle Informationen kennt
• Berechnungen oder Fristermittlungen ohne fachliche Kontrolle übernehmen

• Ein LLM berechnet wahrscheinliche Sprache, es prüft keine Sachverhalte.
• Falsche Angaben treten in derselben sprachlichen Qualität auf wie richtige; eine Kontrolle ist unverzichtbar.
• Das Wissen endet am Trainingsstichtag, sofern keine aktuelle Datenquelle angebunden ist.
• Der Nutzen liegt meist im schnelleren Entwurf, nicht im fertigen Ergebnis.
• Vor dem produktiven Einsatz sind Datenschutz und Vertraulichkeit vertraglich zu klären.