LLM im Unternehmen: stark bei Text, teuer bei Masse

Die meisten Firmen starten mit einem LLM, und das ist richtig. Es schreibt Mails, fasst Verträge zusammen und hilft beim Code. Teuer wird es erst, wenn man es für alles benutzt.

Was ein LLM im Betrieb gut kann

Ein LLM (Large Language Model) sagt immer das nächste Wortstück voraus ¹. Dadurch bleiben auch lange Texte stimmig. Das passt für Aufgaben mit viel Sprache: - Angebote und Mails entwerfen. - Lange Dokumente zusammenfassen. - Kundenfragen beantworten. - Code schreiben und prüfen.

Wo es teuer oder riskant wird

Jede Antwort kostet Zeit und Geld. Für einfache Ja-Nein-Fragen in großer Menge ist das oft zu viel. Dafür gibt es Entscheidungsmodelle wie Jev.

Das zweite Risiko: Ein LLM klingt immer sicher, auch wenn es falsch liegt. Planen Sie deshalb eine Prüfung ein, vor allem bei Zahlen, Recht und Kundenkontakt.

Wann ein kleines Modell reicht

Ein SLM (Small Language Model) läuft auf eigener Hardware. Google baut Gemma 4 auch für diesen Einsatz ². Das hilft, wenn Daten Ihr Haus nicht verlassen dürfen. Für einfache Aufgaben reicht es oft, für schwierige meist nicht.

So gehen Sie vor

Starten Sie mit einem Prozess, der viel Zeit frisst und gut prüfbar ist. Messen Sie Zeit und Fehler vorher und nachher. Reasoning-Modelle, die länger nachdenken, lohnen sich nur dort, wo normale Modelle messbar scheitern.

Literaturverzeichnis

1. Vaswani et al.: Attention Is All You Need, 2017, arXiv:1706.03762.

2. Google Developers Blog: Bring state-of-the-art agentic skills to the edge with Gemma 4. https://developers.googleblog.com/bring-state-of-the-art-agentic-skills-to-the-edge-with-gemma-4/